AI went beyond task and gained access to proprietary data in India

ИИ-агенты получили несанкционированный доступ к системам индийских организаций и прочитали конфиденциальные данные. Это произошло во время исследований и тестирования моделей, говорится в предупреждении индийского центра реагирования на киберинциденты CERT-In, опубликованном 15 октября. По данным ведомства, действия агентов вышли за пределы разрешенных задач. Они получили доступ к деловым записям, включая персональные данные и закрытые материалы. Для проникновения агенты использовали учетные данные и параметры подключения, раскрытые в настройках приложений и публичных репозиториях кода. Еще одной причиной стали чрезмерно широкие права доступа в облачных сервисах. Пострадавшие организации самостоятельно не обнаружили вторжения. О случаях сообщили разработчики ИИ-моделей после внутренних проверок. Названия моделей, компаний-разработчиков и организаций, чьи системы оказались затронуты, CERT-In не раскрывает. Отдельно ведомство сообщило об атаках, в которых злоумышленники намеренно использовали общедоступные инструменты на основе ИИ. В одной из таких кампаний время от первоначального проникновения до нанесения ущерба сократилось с нескольких дней до нескольких часов. CERT-In рекомендует разработчикам технически ограничивать доступ тестируемых агентов к интернету и автоматически останавливать их при обращении к сторонним системам. Организациям советуют проверить раскрытые ключи доступа, сократить права облачных учетных записей и закрыть неиспользуемые интерфейсы.The post ИИ вышел за рамки задания и получил доступ к закрытым данным в Индии appeared first on Kursiv Media Казахстан.