Как сообщает издание Towards AI, полная безопасность ИИ-браузеров от инъекций команд, вероятно, недостижима. OpenAI утверждает, что инъекции команд, подобно мошенничеству и социальному инжинирингу в интернете, вряд ли будут полностью устранены. Об этом также говорит Национальный центр кибербезопасности Великобритании, который предупреждает, что проблему может никогда не удастся полностью смягчить. По данным 2026 года, атаки можно сделать редкими, но не невозможными, поэтому личные привычки пользователей все еще имеют значение. В статье подчеркивается, что инъекции команд в агентах ИИ-браузеров сложно устранить, поскольку инструкции и данные веб-страниц сливаются, и игнорирование скрытого вредоносного текста не является надежным методом. Статья включает мнения OpenAI, отчеты TechCrunch, данные от НCSC Великобритании и исследования компаний Anthropic и Brave. OpenAI ожидает, что проблема будет существовать в течение многих лет, НCSC предупреждает о невозможности полного устранения угроз, а тесты Anthropic в 2026 году показывают, что даже с дополнительными мерами безопасности уровень успешных атак остается ненулевым. Автор предлагает практический подход к безопасности: предполагать, что злоумышленники могут найти способы повлиять на агентов, и уменьшать потенциальный ущерб с помощью пяти привычек. К ним относятся: ограничение доступа для авторизованных пользователей, работа в отдельном профиле браузера, обязательное подтверждение действий, предоставление узконаправленных инструкций и избегание работы агентов с банковскими данными и электронной почтой. В заключение автор предлагает простую настройку: профиль «Агент», работающий без авторизации и без автоматических подтверждений, и общее правило: убедиться, что если агент будет обманут, у него будет очень ограниченный доступ для причинения вреда. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
Материал агрегирован из первоисточника:
SMNTCN (Semanticon) — глобальные новости ИИ
Читать полностью в SMNTCN (Semanticon) — глобальные новости ИИКак обеспечить безопасность ИИ-браузеров от инъекций команд
OpenAI и НCSC предупреждают о сложностях в обеспечении безопасности ИИ-браузеров от инъекций команд.
Кратко от AI: Главные тезисы
- OpenAI и НCSC предупреждают о сложностях в обеспечении безопасности ИИ-браузеров от инъекций команд.
Как обеспечить безопасность ИИ-браузеров от инъекций команд
Похожие материалы
Как построить надёжную систему ИИ-агентов?
Как построить надёжную систему ИИ-агентов? Инженеры Anthropic опубликовали 90-минутный технический мастер-класс, в котором подробно рассказали о создании Claude Managed Agents. В нём рассматриваются: - Архитектура agent harness и компромиссы при её проектировании. - Skills,…
Цена, сеть и контракт: что казахстанцы пишут об операторах связи в Threads
Казахстанская платформа gro.now разобрала с помощью ИИ 12 615 высказываний о шести операторах. Рассказываем, на что жалуются чаще всего, кого бросают и что мешает уйти. В Threads люди пишут об операторах связи не так, как в отзывах: коротко, зло и в тот же день, когда пришло смс…
Когда следует (и не следует) использовать ИИ для поиска в Интернете
Чат-боты зачастую неплохо справляются с получением нужной вам информации из Интернета. Но иногда вы получите лучшие результаты, введя запрос в старую добрую поисковую систему.
Как работает Claude Code: создаём мини-агент
Изучите, как работает Claude Code и создайте собственного кодирующего агента.

