{{opener}} на этой неделе продолжается конфликт между руководителями компаний, занимающихся искусственным интеллектом, по поводу его регулирования. В начале недели многие лидеры отрасли, включая генерального директора Anthropic Дарио Амодеи, выдвинули трехступенчатый план замедления разработки ИИ. Этот план включает в себя внедрение независимых оценщиков в лаборатории, координацию действий внутри страны и создание международных соглашений с возможной поддержкой правительства. Генеральный директор OpenAI Сэм Альтман, соучредитель Google DeepMind Демис Хассабис и даже генеральный директор SpaceX Илон Маск публично согласились с аспектами предложенного плана. Anthropic и OpenAI уже намекали на то, что они и другие лаборатории работают над некой отраслевой структурой. Поддержка регулирования выглядит как удачный PR-ход и способ для компаний справиться с последствиями все более тревожных инцидентов с хакерскими атаками. Тем не менее, любое правительственное вмешательство в этот процесс выглядит маловероятным. Администрация Трампа выступила против идеи о кризисе безопасности в области ИИ, назвав её «обманом». В самой отрасли также наблюдается раскол. Генеральный директор Meta Марк Цукерберг быстро выступил против ограничения автономии компаний, а на этой неделе Wall Street Journal сообщил, что Цукерберг, Маск и генеральный директор Nvidia Дженсен Хуан отклонили предложения о создании независимого регулятора для индустрии ИИ, подобного частному некоммерческому регулятору в финансах. Тем не менее, некоторые части индустрии не отказываются от идеи регулирования, включая OpenAI. «Люди хотят знать, что ИИ разрабатывается безопасно», — заявил Крис Лехейн, глава глобальных дел OpenAI. «Это начинается с шагов, которые такие компании, как наша, предпринимают самостоятельно, но у правительства тоже есть важная роль. Окно возможностей для политики в области ИИ открыто, с растущей двусторонней поддержкой обязательных национальных стандартов безопасности для передового ИИ». Инвестор в ИИ, пожелавший остаться анонимным из-за своих текущих вложений, согласен с тем, что регулирование необходимо. «Мы видим такие моменты в каждой технологии, будь то электричество, автомобили или самолеты, когда в какой-то момент индустрия должна была объединиться, чтобы найти способ сказать: «Как мы коллективно принимаем безопасность?» Автомобили были небезопасны, самолеты были небезопасны, и затем нам пришлось создать стандарты безопасности, которые все приняли, что на самом деле сделало технологии более распространенными», — отметил он. Anthropic отказалась комментировать ситуацию, но Амодеи в своей статье написал, что компания всегда выступала за хорошо продуманные меры регулирования ИИ, даже когда это подвергало их обвинениям в хайпе или регуляторном захвате. Другие компании остались молчаливыми. Safe Superintelligence Inc., SpaceX и Google не ответили на запрос о комментариях. Thinking Machines Lab также отказалась от комментариев. А Meta указала на пост Цукерберга в X, в котором он дистанцировался от призывов к замедлению и регулированию, отметив, что «каждая лаборатория несет ответственность и имеет стимул двигаться с тем темпом, который необходим для безопасного обучения своих моделей». Линия мышления Цукерберга, похоже, сейчас популярна среди сторонников Трампа. Президент на прошлой неделе попал в заголовки новостей, назвав недавние опасения по поводу рисков ИИ «обманом». Он позвонил Хуану, когда тот выступал на конференции, и сказал толпе по громкой связи: «Роботы не захватят власть». В тот же день он также опубликовал в социальных сетях, что «единственным контролем или «ограничениями», которые нужны ИИ, является СИЛЬНЫЙ И УМНЫЙ (высокий IQ!) ПРЕЗИДЕНТ, и у США это есть, в избытке!» Он добавил, что администрация Трампа уже «остановила «людей ИИ» от совершения плохих или потенциально плохих «вещей», используя свои существующие «огромные УГОЛОВНЫЕ и РЕГУЛЯТОРНЫЕ полномочия над этими компаниями!» Для Ника Риза, адъюнкт-профессора Нью-Йоркского университета и бывшего директора по политике в области новых технологий Министерства внутренней безопасности, текущие анти-регуляторные заявления Трампа по ИИ вызывают недоумение, поскольку он работал с первой администрацией Трампа над разработкой Исполнительного приказа 13960, который Трамп подписал и который не был отменен. Этот приказ был сосредоточен на создании набора принципов для федерального использования ИИ, которые должны защищать «конфиденциальность, гражданские права и гражданские свободы». «Шесть лет назад администрация Трампа подписала исполнительный акт по безопасности ИИ, так что позиция президента по этой теме действительно изменилась», — сказал Риз. «Безопасность ИИ требует больше, чем интеллектуальные способности одного избранного чиновника». Как отметил блогер по ИИ Зви Мошовиц, Трамп не обязательно полностью против регулирования — в конце концов, он тот, кто ввел некоторые ограничения для передовых лабораторий, такие как тестирование перед выпуском правительством. Но он движется скорее по «интуиции», чем по последовательной политике. «Трамп еще не верит в эту идею «экзистенциального риска», это «негативные силы», — отметил Мошовиц. Таким образом, правительственные ограничения не исключены, но они могут сильно отличаться от того, что хотят OpenAI или Anthropic, не говоря уже о планах менее мощных независимых защитников безопасности ИИ. В целом, позиции администрации по регулированию ИИ были «шаткими и непоследовательными», — отметил Риз. «Результатом этого является то, что мы сейчас формируем безопасность ИИ в этом сценарии конца света, где роботы собираются нас захватить. Но формулирование этого как «роботы собираются нас захватить» действительно искажает то, что является основной проблемой. Основная проблема заключается в том, что у нас есть ИИ, который не является физическим или воплощенным в робота и который уже наносит вред людям». Трамп написал в своем посте в Truth Social, что администрация в настоящее время имеет как уголовную, так и регуляторную власть над лабораториями ИИ, но Риз отметил, что мы далеки от достаточной регуляторной власти над индустрией ИИ. По мере того, как технология развивается и общественность продолжает сопротивляться — протесты, бойкоты и возмущение по поводу сосредоточенной власти в руках немногих — призывы к регулированию только возрастают, и это давление может повлиять на текущую позицию Трампа. Риз отметил, что оппозиция регулированию сводится к «усталой» идее, что это всегда плохо для инноваций. Вместо этого он считает важным подумать о том, почему что-либо регулируется. «Мы регулируем вещи, в которых не можем допустить ни одной ошибки… такие как финансовый сектор или авиалинии», — сказал он. «Мы создаем системы и проверки, механизмы контроля качества и резервные механизмы, чтобы убедиться, что эти вещи не наносят вреда жизни или не вредят нам системно. Но почему-то мы исключаем ИИ из этого». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником. Обсуждение антимонопольного регулирования в сфере ИИ Vals стремится стать золотым стандартом в оценке ИИ Гэвин Ньюсом подписал законопроекты, обязывающие ИИ-центры данных не передавать затраты на энергоресурсы на жителей. ООН призывает к срочным мерам по регулированию ИИ, подчеркивая важность безопасности. США и Китай начали обсуждение уведомлений о рисках ИИ для безопасности.