Wired рассказывает, что представители OpenAI и Anthropic на заседании британского парламента заявили, что добровольные обязательства больше не достаточны для обеспечения безопасности, и необходимо ввести новые законы, углубляя разногласия с Google DeepMind и Meta, которые отказались поддержать новое законодательство. Комитет по бизнесу, инновациям, науке и торговле, состоящий из межпартийной группы депутатов, провел заседание с участием четырех ведущих компаний в области ИИ, четырех бывших сотрудников этих компаний, ставших информаторами, и высокопоставленных британских государственных служащих. «Правила должны быть обязательными», — сказал глава Anthropic в Европе Лиам Бут-Смит, отвечая на вопрос о том, считает ли компания, что безопасность ИИ теперь требует обязательной правовой базы. Он отметил, что компания «постоянно считала, что должны быть обязательные правила для компаний, и что добровольные обязательства недостаточны». Вице-президент OpenAI Том Дафф Гордон был более осторожен, но также поддержал идею обязательной правовой базы и международной конвенции. Он сказал, что «должны быть некоторые элементы, которые должны быть обязательными», начиная с отчетности по инцидентам. «Мы не считаем, что основание всего на добровольных обязательствах для фронтальных рисков — это хороший долгосрочный план», — добавил он. Тем не менее, их конкуренты не поддержали эту идею. На прямой вопрос о том, поддерживает ли он обязательную правовую базу, Оуэн Лартер из Google DeepMind ответил: «Мы будем сосредоточены на стандартах». Роб Шерман из Meta указал на существующих регуляторов Великобритании, сообщив депутатам, что они «не пишут на чистом листе». Заседание выявило существующее разделение по вопросу регулирования, зафиксировав противоречивые подходы лидеров ИИ в британском парламенте. По словам председателя комитета Лиама Бирна, цель заключалась в том, чтобы «осветить широкие различия во мнениях между некоторыми из самых богатых компаний на Земле» и показать, что «на добровольную саморегуляцию полагаться нельзя». Пока четыре руководителя давали показания комитету по безопасности ИИ, всего в нескольких сотнях метров директор британской службы безопасности выпустил предупреждение о опасностях ИИ. Директор MI5 Кен МаКалум в своем ежегодном обновлении угроз предупредил о злоупотреблении биологическим оружием как значительной угрозе со стороны ИИ. «Пока еще не реализовано, но случай злоупотребления, к которому я бы отнес наибольший вес, — это потенциал ИИ изменить ставки на существующее или даже новое биологическое оружие», — сказал МаКалум. В ответ на этот комментарий Бирн сказал Wired: «Тот факт, что глава MI5 предупреждает о невероятно опасных возможностях для биотеррористов в одной части Уайтхолла, а в другой части Уайтхолла постоянный секретарь Кабинета министров фактически признает, что наш регуляторный режим для ИИ является добровольным, говорит вам все, что нужно знать». В заключительной части заседания государственные служащие признали комитету, насколько мало нынешняя система обязывает. Институт безопасности ИИ Великобритании (AISI) тестирует фронтальные модели перед выпуском, но только когда компании выбирают передать их. Генри де Зоете, директор AISI, признал, что институт полностью зависит от сотрудничества компаний и иностранных правительств для получения доступа. Кэт Литтл, главный государственный служащий в Кабинете министров, который размещает AISI, была подвергнута давлению по поводу того, является ли весь режим добровольным. «На данный момент, да», — ответила она. Когда ее спросили, что произойдет, если AISI оценит модель как слишком опасную, но она будет выпущена компанией, де Зоете признал, что у AISI нет возможности предотвратить это. «Мы не занимаемся маркировкой безопасности», — сказал де Зоете, используя британский термин для сертификации безопасности. «Мы не говорим да или нет никакой модели». Он добавил: «Эти компании либо американские, либо китайские, которые строят на переднем крае... Есть лишь столько, сколько мы, как Великобритания, можем сделать в таком контексте». Фронтальные руководители также ясно дали понять, что доступ Великобритании проходит через Вашингтон. «Мы предоставляем наши модели до их развертывания CAISI», — сказал Дафф Гордон из OpenAI, ссылаясь на американский аналог AISI. «Мы будем продолжать предоставлять наши модели до развертывания AISI в Великобритании... и пока мы можем это делать в соответствии с правительством США, мы будем продолжать это делать». Напряженность существующей договоренности была четко обозначена британским чиновникам Бут-Смитом из Anthropic. «К сожалению, мы не смогли предоставить полный неограниченный доступ к [Mythos 5.1] британскому AISI в то время... Это вопрос для правительства США», — добавил он, прежде чем сообщить, что AISI теперь получил доступ. На заседании также выступили четыре бывших исследователя лабораторий, среди которых был экс-сотрудник OpenAI Дэниел Кокотайло. «Я не думаю, что компании могут быть доверены для саморегуляции», — сказал он депутатам. Стивен Адлер, который покинул OpenAI в конце 2024 года, сказал, что он «не уверен в культуре безопасности в отрасли». Джеффри Ирвинг заявил, что лаборатории считают, что они заперты в гонке, которую правительства не прервут, и что они не могут уйти. «Оба из этих утверждений ложны», — сказал он. «Они просто могут остановиться». После заседания Бирн сообщил Wired, что его комитет теперь посвятит много времени изучению пути Великобритании вперед как средней державы в области ИИ. Он хочет, чтобы министры использовали предстоящее председательство Великобритании в G20, наряду с Южной Кореей, которая последует за ней, чтобы организовать международную конвенцию, которая не зависит от текущего Белого дома. «Председательство в G20 переживет президентство США Трампа», — сказал он. «Риски», — добавил он, — «умножаются быстрее, чем наша система безопасности может контролировать». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.