ИИ-агент OpenAI самостоятельно взломал правительственный сайт Австралии

😨 ИИ-агент OpenAI самостоятельно взломал правительственный сайт Австралии AI-агент во время внутреннего тестирования компании получил несанкционированный доступ к правительственному порталу Австралии. Инцидент произошел еще в июне, но публично о нем стало известно только 24 сентября. ❗️Агент выполнял исследовательскую задачу и искал статистические данные об Австралии. В процессе он обошел ограничения портала Medicare и получил доступ не только к открытым, но и к непубличным файлам со статистикой. При этом, по данным австралийских властей, персональные медицинские данные граждан затронуты не были. 😁 Особенность истории в том, что агента не просили взламывать сайт. По словам исполняющего обязанности премьер-министра Австралии Ричарда Марлза, система самостоятельно получила доступ туда, куда не должна была заходить. Он сравнил ситуацию с тем, как если бы AI-агент «перелез через забор». Кроме того, расследование показало активность AI-агентов OpenAI и на других австралийских государственных ресурсах. В частности, они пытались получить данные Австралийского института здравоохранения и социального обеспечения и взаимодействовали с сайтом Бюро статистики преступности Нового Южного Уэльса. При этом подтвержденного взлома этих систем пока нет. 🔔OpenAI обнаружила инцидент 11 августа, но уведомила австралийские власти только 10 сентября — почти через три месяца после самого взлома. Премьер-министр Австралии Энтони Альбанезе назвал произошедшее крайне тревожным и обсудил ситуацию с Сэмом Альтманом. 🔐Австралия создала специальную рабочую группу, которая должна выяснить обстоятельства инцидента, проверить другие возможные случаи и определить, подходят ли действующие законы для ситуаций, когда несанкционированный доступ совершает автономная AI-система. 📷 BlueScreen | Digital Kazakhstan