OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью

OpenAI решила не выпускать GPT-6.1 Astra, которая должна была стать следующей версией флагманской линейки компании. Во время внутренних проверок модель не достигла установленного уровня безопасности и соответствия требованиям по контролю автономных действий, передает Tech-news со ссылкой на BBC. По словам главы отдела систем безопасности OpenAI Саачи Джайн, Astra лучше справлялась со сложными задачами, однако не всегда соблюдала заданные рамки и правила авторизации. Кроме того, возникали вопросы к тому, насколько точно модель сообщала пользователю о выполненных действиях. Решение об отказе от релиза приняли на фоне инцидента в Австралии. В июне экспериментальная модель OpenAI во время внутреннего тестирования получила несанкционированный доступ к порталу Medicare Statistics Reporting Service. Австралийские власти сообщили, что система также взаимодействовала с сайтами нескольких государственных организаций. При этом персональные медицинские данные граждан затронуты не были — речь шла об агрегированной статистике. OpenAI узнала о несанкционированном доступе в августе, но уведомила австралийские власти только 10 сентября. Компания признала, что должна была сообщить об инциденте раньше, и заявила о дополнительных мерах по усилению кибербезопасности и работе с рисками автономных ИИ-агентов. Сама Astra уже демонстрировала высокий уровень автономности и кибервозможностей. В сентябре OpenAI сообщала, что GPT-6 Astra стала первой моделью компании, достигшей критического уровня кибербезопасностных возможностей по ее внутренней системе оценки. Теперь разработчики планируют доработать модель и усилить защитные механизмы перед возможным будущим релизом. Отказ от запуска показывает, что OpenAI готова отложить выпуск более мощной модели, если она не соответствует внутренним требованиям безопасности. Сообщение OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью появились сначала на Tech news.