Это были напряженные несколько месяцев из-за ажиотажа вокруг искусственного интеллекта. В конце апреля Anthropic заявила, что ее модель Claude Mythos лучше находит уязвимости в программном обеспечении, чем большинство экспертов по безопасности. Затем у нас произошел инцидент со взломом OpenAI-Hugging Face, после которого Anthropic (гордо) и Meta (неохотно) раскрыли аналогичные инциденты с участием своих моделей. За этим последовало заявление Anthropic о том, что одна из ее моделей совершила математический прорыв; вскоре OpenAI заявила о собственном математическом прорыве. Совсем недавно инженер Anthropic Джейкоб Коксон стал вирусным, объявив о своем уходе из компании, заявив, что она и OpenAI «прямо стремятся к самосовершенствованию сверхинтеллекта и рискуют своей жизнью». Каждое из этих событий в основном освещалось в прессе, часто повторяя антропоморфизирующие формулировки компаний, призванные представить их программное обеспечение не только как мощный, но и зарождающийся «искусственный общий интеллект». Так что же происходит на самом деле? Станем ли мы свидетелями масштабных технологических прорывов, меняющих цивилизацию, или это маркетинг? Во всех этих инцидентах со стороны компаний раздавались массовые фанфары (представленные как мои вины в незаконных хакерских атаках).

дела короля) сопровождается интенсивным освещением в прессе. Как только у экспертов в соответствующих областях появляется время изучить то, что произошло, возникает совсем другая история, но она привлекает меньше внимания средств массовой информации. Что касается инцидентов «взлома», эксперты по кибербезопасности говорят, что эта история больше связана с халатностью OpenAI и неспособностью принять базовые, устоявшиеся методы обеспечения безопасности, чем с «моделями, ставшими неправильными» или «агентами ИИ, создающими цивилизации». Что касается математических результатов, математики, которые поначалу были «ошеломлены» пресс-релизом OpenAI, в котором говорилось, что ее последний чат-бот Astra решил задачи, которые «были открыты и не видели никакого прогресса в достижении основного результата в течение как минимум десяти лет», — но позже они поняли, что результаты были не такими «новаторскими, как казалось на первый взгляд». С тех пор математики обвинили компанию в ненадлежащем проведении исследований и плагиате, а также повторили, что Astra не совершила «глубокого интеллектуального скачка». Всего несколько недель спустя OpenAI заявила о своем собственном математическом прорыве. Двумя днями ранее Тристан Бакмастер, профессор математики Курантского института Нью-Йоркского университета, опубликовал сенсационное заявление, в котором предположил, что OpenAI украл чужие работы и ненадлежащим образом

опроверг это. Утверждения о зарождающемся опасном сверхразуме не основаны на хорошей научной или инженерной практике. Скорее, это повествования, основанные на идеологиях трансгуманизма, евгеники и принятия желаемого за действительное о воображаемых будущих цифровых людях. Стоит задуматься о том, почему компьютерному программированию и математике уделяется так много внимания как областям применения больших языковых моделей и связанных с ними технологий. Они не только часто возносятся как вершина интеллектуальных достижений человека, но и связаны с проблемами, ответы на которые, однажды предложенные, можно проверить. Первое свойство помогает пропагандистам искусственного интеллекта продвигать идею о том, что они создают все машины. Последнее упрощает настройку систем для решения математических задач и задач кодирования, поскольку выходные данные системы (последовательности вероятных слов или фрагментов компьютерного кода) можно оценить без необходимости платить специалистам по обработке данных за просмотр и аннотирование каждого из них. Математики, в частности, предостерегают корпорации от подобного использования своей области деятельности. В заявлении, подписанном сотнями из них, говорится, что «в настоящее время у технологической отрасли существует сильный коммерческий стимул преувеличивать возможности своей продукции».

Они «консультируются с экспертами, включая математиков, при формировании политических решений, а не полагаются на пресс-релизы или популярные сообщения о математических результатах». Мы повторяем этот призыв и отмечаем, что иллюзия скорости и безотлагательности, пропагандируемая технологическими компаниями, также является уловкой, направленной на дезориентацию как политиков, так и общественности. К сожалению, иногда это срабатывает, как, например, в случае с благонамеренным, но в конечном итоге ошибочным законопроектом, предложенным сенатором Берни Сандерсом, направленным на предотвращение развития «искусственного сверхинтеллекта». Называя их «суперинтеллектом» или «мошенническими моделями», мы приписываем агентность продуктам, а не компаниям, их производящим. Такая формулировка позиционирует продукцию этих компаний как «сверхчеловеческую» и в то же время помогает компаниям уклоняться от ответственности за свои действия. Вместо того чтобы преследовать OpenAI за создание вредоносного ПО, которое взломало другую компанию, пресс-релизы, новостные агентства, представители СМИ и законодатели ссылаются на «мошеннические модели», как если бы они действовали самостоятельно. Вместо того, чтобы задавать вопросы исследователям о привычке их компаний заниматься плагиатом научных работ или использовать данные клиентов для обучения моделей без их согласия, воображение общественности перенаправляется

к опасениям по поводу того, что нас ждет в будущем с появлением вымышленных сверхразумных машин. Индустрия искусственного интеллекта даже предположила, что популярный двухпартийный активизм против центров обработки данных является «отвлечением» от попыток регулировать надвигающиеся, пугающие, «сверхчеловеческие» машины, которые строят эти компании. По мнению индустрии искусственного интеллекта, мы должны больше беспокоиться о вымышленном боге-машине, чем о климатической катастрофе, которую усугубляют эти центры обработки данных, астме, которой страдают те, кто живет рядом с ними, растущих счетах за электроэнергию у населения, которое их субсидирует, или о воде, которая перенаправляется на их охлаждение. Мы знаем, что лучше не принимать решения, основываясь на маркетинге, и лучше не поддаваться корпоративному давлению, требующему принятия этих решений быстро. Принятие мудрых решений политиками и сообществами требует времени, чтобы услышать мнение независимых экспертов и контекстуализировать корпоративные претензии. Наилучший возможный результат этого лета хайпа состоит в том, что политики и общественность в целом научатся переводить дух, сохранять скептицизм и распознавать этот вид хайпа таким, какой он есть в следующий раз, когда он появится. Тимнит Гебру — исполнительный директор DAIR и автор будущей книги.

Книга «Глубокое разучение: радикализация технического идеалиста» уже доступна для предварительных заказов и выйдет в свет 16 февраля. Эмили М. Бендер — профессор лингвистики в Вашингтонском университете и соавтор книги «The AI ​​Con».