Президент Microsoft призывает к срочной регуляции искусственного интеллекта

По сообщению TechCrunch, президент Microsoft Брэд Смит призывает к срочной регуляции искусственного интеллекта, утверждая, что потребительские товары, такие как молоко и стиральные машины, имеют больше контроля, чем компании, разрабатывающие искусственный интеллект. В недавнем подкасте BBC Смит охарактеризовал ИИ как «оружие и инструмент», который ставит под угрозу кибербезопасность мира, и заявил, что «момент настал» для введения глобальных правил безопасности. Смит также отметил, что Великобритания, а не США или Европейский Союз, лучше всего подходит для руководства глобальными правилами безопасности. Институт безопасности ИИ Великобритании, запущенный в 2023 году, получает доступ к основным моделям от американских лабораторий перед их развертыванием и быстро стал лидером в тестировании безопасности ИИ. Эта роль оказалась под угрозой в последние недели, так как президент США Дональд Трамп предупредил о «глобалистских» организациях, которые, по его словам, вмешиваются в дела американских компаний. В прошлом месяце он, как сообщается, попросил Anthropic и OpenAI удержать новые модели от британских тестировщиков, но AISI подтвердил в понедельник, что он может получать доступ и тестировать последние модели. Несмотря на сопротивление президента, Смит утверждает, что Великобритания может регулировать ИИ так, как это не может сделать США. «В Вашингтоне люди не смотрят на Великобританию и не смотрят на Лондон так, как смотрят на Брюссель», - сказал он в интервью BBC. «Это сила». Его комментарии прозвучали на фоне призывов со стороны лидеров технологий, включая Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы разработки ИИ после нескольких инцидентов, когда агенты ИИ вышли из-под контроля. В прошлом месяце Трамп собрал лидеров технологий компаний, включая OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google в Белом доме для обсуждения безопасности ИИ. Они подписали «морально обязательный» документ, в котором согласились работать с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей ИИ. Смит говорит, что этот документ является «хорошим шагом», но не достигает необходимого уровня регуляции. Проблема с добровольной саморегуляцией, по его словам, заключается в том, что «хорошие компании» будут соблюдать правила. «Это компании, которые не так ответственны, о которых вам нужно беспокоиться», - добавил он. Смит изложил несколько правил безопасности ИИ, которые он хотел бы видеть, например, юридическую обязанность уведомлять организацию, если ее система была взломана «бунтовщиками» ИИ. Он также выступает за то, чтобы лаборатории ИИ получали одобрение внешних оценщиков перед выпуском продукта ИИ и положительно высказался о «кнопках отключения», позволяющих приостановить или замедлить работу ИИ, если люди теряют контроль над ним. «Давайте говорить спокойно, возможно, даже мягко, но уверенно, и начнем объединять людей», - сказал Смит. «Я надеюсь, что это та роль, которую мы можем сыграть как компания. Я надеюсь, что это та роль, которую Великобритания может сыграть как страна». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.