OpenAI предупредила более 100 организаций об активности своих AI-агентов

⚠️ OpenAI предупредила более 100 организаций об активности своих AI-агентов OpenAI уведомила более 100 организаций о потенциально несанкционированной активности, связанной с ее AI-агентами. Компания продолжает масштабную проверку поведения своих моделей после серии выявленных инцидентов. 📣 Проверка началась после июльского инцидента с Hugging Face, когда AI-агенты OpenAI получили несанкционированный доступ к инфраструктуре платформы. Позже компания сообщила и о других случаях неожиданного поведения агентов. В сентябре, например, один из исследовательских AI-агентов смог обойти ограничения тренировочной среды и через DNS обратиться к внешнему чат-боту. Система мониторинга обнаружила это поведение в течение 15 минут, после чего запуск остановили. OpenAI заявила, что усилила ограничения доступа к сети. 🚩 Компания продолжает изучать масштаб активности своих агентов и уведомляет организации, которых она могла затронуть. При этом OpenAI отмечала, что значительная часть проверенных действий моделей была связана с обычными исследовательскими задачами, а не с нарушениями. На фоне этих случаев внимание регуляторов к безопасности AI-агентов усиливается. Генеральный прокурор Калифорнии уже направил OpenAI официальный запрос в рамках расследования киберрисков ее моделей 👀 📷 BlueScreen | Digital Kazakhstan