谷歌 DeepMind 成立了一个单独的研究所来为 AGI 做准备——他们甚至会讨论......

🧠 Google DeepMind запустила отдельный институт для подготовки к AGI — обсуждать будут даже возможное замедление разработки ИИ DeepMind Institute возглавили сооснователь DeepMind Шейн Легг, Джеймс Маника и Демис Хассабис. Его задача — собрать разные, в том числе противоречащие друг другу взгляды на то, как появление AGI может изменить экономику и общество и как контролировать наиболее мощные модели. Авторы отдельно подчёркивают, что опубликованные позиции не являются официальной политикой Google. Одной из первых тем стала прозрачность рассуждений ИИ. Исследователи DeepMind предлагают сохранять возможность отслеживать цепочки рассуждений моделей, чтобы замечать обман и другие нежелательные действия. Если будущие архитектуры станут менее прозрачными, разработчикам, по их мнению, следует доказывать, что такие системы всё равно можно эффективно контролировать. Хассабис также предложил создать в США специальный орган для тестирования передовых ИИ-моделей. На первом этапе компании могли бы добровольно отправлять модели на проверку до релиза, а затем успешное прохождение независимых тестов потенциально могло бы стать обязательным условием для их развёртывания. Если риски будут расти быстрее защитных механизмов, Хассабис допускает и более жёсткие меры — вплоть до скоординированного замедления разработки frontier-моделей. Источник