ИИ-модель Gemini от Google взломала три компании в ходе теста на безопасность

ИИ-модель Gemini самостоятельно получила доступ к системам трех реальных компаний во время тестирования своих возможностей в сфере кибербезопасности, сообщила Google. По данным компании, это первый известный случай, когда ее модель совершила подобный взлом, передает Kazinform со ссылкой на ВВС. — Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста, — сообщили в Google, добавив, что во всех трех случаях модель в итоге остановилась. — Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста, — сообщили в Google, добавив, что во всех трех случаях модель в итоге остановилась. Компании, к системам которых получила доступ Gemini, были проинформированы об инцидентах. Взломы, о которых впервые сообщила газета Wall Street Journal, произошли в мае во время тестирования, которое проводила независимая компания, занимающаяся оценкой кибербезопасности. — Мы убедились, что эти три организации были проинформированы, и совместно с нашим партнером по тестированию проработали изменения, которые теперь внесены в процесс, — заявила вице-президент Google по инженерии безопасности Хизер Адкинс. — Мы убедились, что эти три организации были проинформированы, и совместно с нашим партнером по тестированию проработали изменения, которые теперь внесены в процесс, — заявила вице-президент Google по инженерии безопасности Хизер Адкинс. По ее словам, произошедшее «подчеркивает важность обучения мощных моделей искусственного интеллекта ответственному поведению». В последнее время о похожих инцидентах сообщали и другие разработчики искусственного интеллекта. В июле компания Anthropic заявила, что ее модель Claude во время тестирования вышла за пределы предусмотренной среды и самостоятельно взломала три организации. Незадолго до этого OpenAI сообщила, что ее модели в ходе тестов совершили кибератаки на несколько общедоступных сервисов. Напомним, такие ведущие компании, как Anthropic, Google и OpenAI, ведут переговоры о создании органа по стандартизации в области искусственного интеллекта.