Генеральный директор NVIDIA Дженсен Хуанг рассказал о технологии OpenShell, предназначенной для безопасной работы автономных ИИ-агентов. Выступая на Fireside Chat в Астане, он заявил, что разработчики искусственного интеллекта должны обеспечивать безопасность своих продуктов с самого начала, а не устранять уязвимости уже после их появления. Тему кибербезопасности поднял министр искусственного интеллекта и цифрового развития Казахстана Жаслан Мадиев. Он поинтересовался, планирует ли NVIDIA внедрять дополнительные механизмы защиты на аппаратном уровне, чтобы предотвратить взломы и сбои в работе искусственного интеллекта. «Чтобы человечество могло извлечь пользу из возможностей ИИ, мы обязаны развивать и внедрять его ответственно. Как в автомобилестроении или горнодобывающей отрасли, безопасность должна закладываться с самого первого дня», – ответил глава NVIDIA. Хуанг отметил, что ответственность за безопасность несут сами технологические компании. Одним из решений NVIDIA в этой области стала технология OpenShell. Она предназначена для ограничения доступа автономных ИИ-агентов к файлам, инструментам и другим ресурсам компьютерной системы. Глава NVIDIA сравнил таких агентов с беспилотными автомобилями или роботами, действующими внутри операционной системы. В отличие от обычных чат-ботов, которые преимущественно отвечают на запросы пользователя, автономные агенты могут самостоятельно выполнять последовательность действий с использованием предоставленных им инструментов. Такие возможности требуют дополнительных механизмов защиты. Получив слишком широкие права доступа, ИИ-агент потенциально способен совершить нежелательные действия или затронуть информацию, которая не относится к поставленной задаче. «OpenShell изолирует их в безопасном контуре, жестко ограничивает права доступа только необходимым минимумом и непрерывно отслеживает их действия. Мы призываем всю индустрию использовать эту технологию», – рассказал Хуанг. Мы же добавим, что опасения по поводу безопасности автономных ИИ-агентов связаны с тем, что такие системы способны не только генерировать ответы, но и самостоятельно работать с файлами, программным кодом и базами данных. Ошибка агента или выполнение вредоносной инструкции могут привести к удалению информации, раскрытию конфиденциальных сведений или нарушению работы корпоративных сервисов. В июне 2025 года исследователи компании Aim Security раскрыли критическую уязвимость EchoLeak в Microsoft 365 Copilot. Специалисты продемонстрировали, как специально подготовленное электронное письмо могло заставить ИИ-помощника получить доступ к конфиденциальным корпоративным данным и передать их на сторонний сервер без дополнительных действий пользователя. Уязвимость получила идентификатор CVE-2025-32711, после чего Microsoft выпустила исправление. Другой тип угроз связан с ошибочными действиями самих ИИ-агентов. В 2026 году пользователи платформы Reddit сообщали о случаях потери данных при работе с ИИ-инструментами разработки. В одном из обращений пользователь утверждал, что после действий агента оказалась удалена рабочая база данных с информацией о пользователях, договорах и сообщениях.The post ИИ научился действовать самостоятельно: глава NVIDIA предупредил о рисках appeared first on Kursiv Media Казахстан.