The Verge рассказывает, что ИИ радикально изменил ландшафт кибербезопасности, и в интервью ведущего Nilay Patel с Alex Stamos, главным директором по безопасности компании Cognition и преподавателем Стэнфордского центра кибер-политики, обсуждаются последствия этого перелома. Стэмос в последний месяц называет «периодом безопасности» и отмечает, что за октябрь было взломано огромное количество компаний, в основном связанных с ИИ, включая несколько облачных провайдеров «неоклаудов», а также биржу Binance, у которой украли рекордную сумму криптовалюты, что, по его словам, является крупнейшим ограблением в истории человечества. Стэмос объясняет, что взломы связаны между собой. По его данным, сначала был взломан Fireworks, крупный поставщик ИИ-сервисов, и из-за украденных API-ключей злоумышленники проникли в Cursor. Затем они распространили вредоносный плагин, который дошёл примерно до 5000 компаний и создал угрозу для такого же числа организаций. По словам Стэмоса, это непрерывная цепочка взломов, которая идёт по всей технологической отрасли, и специалисты по безопасности устали от постоянного напряжения. Говоря о том, кто стоит за атаками, Стэмос отвечает, что это разные группы. Он считает, что открытые модели с открытыми весами достигли уровня, при котором большую часть так называемой цепочки атаки можно автоматизировать: поиск уязвимостей, написание эксплойтов и взлом систем происходят практически в реальном времени. По его словам, китайский открытый инструмент ARTEX, работающий на модифицированной модели, позволяет взламывать большое число организаций. Сначала под удар попали три южнокорейских банка, а на этой неделе, по данным Стэмоса, пострадали около 200 компаний. Он сравнивает происходящее с девяностыми годами, когда интернет был новым, а уязвимости Windows становились серьёзной проблемой, но тогда мир не был так сильно зависим от сети. Стэмос напоминает, что раньше культура кибербезопасности строилась на профессиональной этике, программах поиска уязвимостей за вознаграждение и ответственном раскрытии ошибок. Эта система опиралась на предположение, что для серьёзных атак нужны редкие специалисты и большие команды, а также что отмывание денег затруднено. Теперь, по его словам, ИИ позволяет даже небольшим группам и отдельным людям, включая подростков, получать возможности, которые раньше были доступны только государственным структурам и крупным преступным организациям. Он приводит пример дистрибьютора медицинских товаров, пострадавшего от российских вымогателей, из-за чего стоматологические клиники по всей стране отменяли приёмы. Стэмос говорит, что вернуть прежнюю экономику защиты будет очень сложно. Он считает, что нужно снижать стоимость защиты, а не только совершенствовать поиск и исправление ошибок, поскольку на защиту от ИИ-атак приходится лишь часть работы специалиста по безопасности, а остальные задачи, например мониторинг журналов событий, пока автоматизированы слабо. По его мнению, первые уровни такого мониторинга должны работать на небольших и дешёвых моделях, а не на дорогих языковых моделях, поскольку анализ огромных объёмов логов экономически невыгоден. Он отмечает, что его компания обучает собственные модели и стремится удешевить процесс, но пока это лишь начало работы. Стэмос также указывает на ограниченный доступ к самым мощным моделям для кибербезопасности: их используют лишь немногие компании, и обычно только для проверки наиболее важного кода, тогда как огромное количество устаревшего программного обеспечения остаётся без такой проверки. Ведущий интервью спрашивает, будет ли период ухудшения ситуации перед полной защищённостью, и Стэмос в ответ подчёркивает, что абсолютной безопасности не будет, а у атакующих всегда сохранится экономическое преимущество. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.