Красная команда «черного ящика» агентного искусственного интеллекта: таксономическая система для автоматического обнаружения рисков
arXiv:2609.09647v1 Объявление Тип: новое Аннотация: Агентские системы быстро переходят в рабочую среду, где они считывают ненадежные входные данные, вызывают инструменты с реальными разрешениями и действуют автономно, расширяя поверхность безопасности за пределы моделей, предназначенных только для чата. Однако стандартные оценки остаются…
- 01.arXiv:2609.09647v1 Объявление Тип: новое Аннотация: Агентские системы быстро переходят в рабочую среду, где они считывают ненадежные входные данные, вызывают инструменты с реальными разрешениями и действуют автономно, расширяя поверхность безопасности за пределы моделей, предназначенных только для чата
- 02.Однако стандартные оценки остаются…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →Claude и Codex начали ограничивать запросы на взлом и модификацию собственных устройств
🚫 Claude и Codex начали ограничивать запросы на взлом и модификацию собственных устройств Пользователи жалуются, что ИИ-модели OpenAI и Anthropic стали отказывать в задачах по реверс-инжинирингу — анализу и изменению уже существующих программ. Один из пользователей Codex…
Заявка Anthropic на IPO вернула спрос на ИИ-бумаги и подняла индексы США на 0,3–0,8%
Выручка создателя Claude за полгода выросла на 1 304% – до $16,29 млрд
OpenAI представила GPT-6.1 Terra: умеет управлять компьютером и стоит вдвое дешевле
🔄 OpenAI представила GPT-6.1 Terra: умеет управлять компьютером и стоит вдвое дешевле OpenAI выпустила GPT-6.1 Terra — новую ИИ-модель, которая способна понимать содержимое экрана, работать с приложениями, заполнять онлайн-формы, анализировать технические чертежи, обрабатывать…