Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
In the wake of a series of high-profile AI safety incidents, Nvidia is introducing a new software tool that helps keep agents from escaping containment.
- 01.In the wake of a series of high-profile AI safety incidents, Nvidia is introducing a new software tool that helps keep agents from escaping containment.
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.
Anthropic использует газ для поддержки роста ИИ
Anthropic сообщает о зависимости своих центров от природного газа и связанных рисках.
Anthropic сжигает газ, чтобы обеспечить бум искусственного интеллекта
Готовясь к публичному обнародованию, документация Anthropic S-1 делает зависимость генеративного ИИ от метана совершенно очевидной. «Конкуренция за доступ к электроснабжению и центрам обработки данных с достаточной доступностью электроэнергии является интенсивной». В документах, поданных в Управление по ценным бумагам США и…