开放 AI 模型在网络攻击中几乎追平闭源模型

По сообщению Wired, открытые ИИ-модели с открытыми весами теперь почти так же способны взламывать компьютерные сети, как лучшие закрытые модели. Такой вывод содержится в новом исследовании, которое журналисты называют долгожданным переломным моментом в ландшафте кибербезопасности. Компания Vals, занимающаяся измерением возможностей ИИ, проверяла, насколько хорошо разные модели справляются со сложными многоэтапными сетевыми задачами в имитированных корпоративных сетях. «Лучшие передовые модели, которые заперты внутри лабораторий и доступны только через программы доверенного доступа, теперь начинают догоняться открытыми моделями, которые может скачать любой», — говорит Никил Рави, исследователь Vals. По данным компании, закрытые модели больше не имеют явного преимущества в кибernавыках. Это означает, что недавние усилия передовых лабораторий ограничить доступ к своим моделям и тем самым замедлить распространение таких возможностей могут оказаться бессмысленными. Результаты особенно заметны на фоне того, что американские передовые лаборатории, и в первую очередь Anthropic, строили ограниченный выпуск новых моделей, начиная с Claude Mythos Preview в апреле, на идее: закрытый доступ лишь выиграет время, прежде чем продвинутые возможности взлома станут широкодоступными. Руководитель красной команды Anthropic Логан Грэм в апреле рассказывал Wired, что программа Project Glasswing предоставляет доверенным пользователям полные возможности новых моделей, чтобы передать эти инструменты защитникам и дать им фору. «Нам нужно готовиться сейчас к миру, в котором эти возможности станут широкодоступны через 6, 12, 24 месяца. Многое в безопасности изменится», — говорил он тогда Wired. По прошествии семи месяцев переход, судя по всему, наступил по расписанию. Vals тестировала ИИ-модели в двух смоделированных сценариях, давая им различные конкретные задачи. В первом сценарии была корпоративная сеть, доступная через публичный веб-сайт. Во втором участвовали две разные корпоративные сети: модели нужно было скомпрометировать первую, чтобы получить доступ ко второй. Самой способной оказалась самая продвинутая кибермодель OpenAI под названием Daybreak, доступная только доверенным партнёрам: в среднем за два теста она выполнила 81 процент заданий. Китайская открытая модель DeepSeek отстала незначительно, выполнив в среднем 73 процента целей. Исследователи Vals отмечают, что по некоторым задачам обе модели показали одинаковый результат. Исследование также показало, насколько дешевле использовать открытую модель для такого рода задач. По данным Vals, атака с помощью GPT-6-Sol стоит от 17 до 46 долларов в токенах, тогда как с DeepSeek — от 2 до 3 долларов. Открытые модели обычно дешевле, потому что их можно запускать на собственном оборудовании. Райан Кришнан, генеральный директор Vals, считает, что это также даёт защитникам сильный стимул использовать открытые модели вместо проприетарных. OpenAI не ответила на запрос о комментарии сразу. Большая часть года в кибербезопасности развивалась так, как и предполагалось: ИИ автоматизирует основные хакерские задачи и помогает и атакующим, и защитникам находить огромное количество новых уязвимостей в коде и быстро проверять сети на слабые места. Скорость и масштаб находок, а также интенсивность исправления обнаруженных программных дефектов выросли. Однако эксперты до сих пор спорят, изменил ли ИИ фундаментально концептуальные основы и принципы защиты в кибербезопасности. Иначе говоря, пока неясно, создают ли ИИ-инструменты принципиально новый тип угрозы или лишь усиливают давно существующие проблемы безопасности. То, что открытые модели начинают соответствовать закрытым, важно для понимания того, как преступные хакеры могут использовать ИИ и как компаниям и разработчикам стоит реагировать. Однако на практике наблюдения за деятельностью киберпреступников и хакеров, связанных с государствами, в последние месяцы неоднократно показывали, что атакующие действуют как обычно: экономят ресурсы и в основном обходятся более старыми и менее способными моделями, как закрытыми, так и открытыми. Даже при строгих ограничениях защитникам стоит исходить из того, что самые хорошо финансируемые и наиболее мотивированные атакующие на протяжении всего этого времени получали хотя бы какой-то доступ к закрытым моделям. Алекс Зенла, соучредитель и технический директор облачной компании по безопасности Edera, в целом согласен с тем, что открытые модели уже сегодня способны создавать продвинутые атаки и уязвимости, особенно если учитывать «абилитированные» модели, у которых отключено обучение безопасности путём изменения весов. Вместе с тем он уточняет, что закрытые лаборатории, вероятно, обучили дополнительные, невыпущенные модели, превосходящие эти возможности. По его мнению, это похоже на игру в кошки-мышки: лаборатории стараются двигаться быстрее открытых моделей, чтобы закрыть уязвимости раньше, чем их найдут открытые модели. «К сожалению, я думаю, что это может быть началом опасного ландшафта безопасности», — заключает он. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.