По данным MIT, генеративные модели искусственного интеллекта основаны на идеях инженеров середины 20 века, которые считали, что определенная доля иррациональности необходима для создания машины, способной мыслить как человек. Бенджамин Линдквист, ассистент профессора в MIT, утверждает, что для имитации креативного мышления эти пионеры ИИ намеренно внедряли случайность в алгоритмы, предназначенные для детерминированного решения задач. В своей новой статье, опубликованной в журнале «Past and Present», он прослеживает истоки галлюцинаций ИИ и предполагает, что неизбежно будут компромиссы между креативностью и предсказуемостью при попытке построить машины, имитирующие человеческое поведение. Линдквист объясняет, что ранние компьютерные инженеры верили, что необходимо внедрять случайность и иррациональность в системы ИИ, созданные для логики и вычислений. На протяжении долгого времени многие ученые и художники теоретизировали, что случай играет важную роль в открытии и креативности — в способности создавать идеи. Они связывали креативность с неожиданными скачками логики или даже с состоянием, похожим на сон, которое позволяет смотреть на вещи с новой перспективы. В начале 1950-х годов популярная идея Джона Пирса, выдающегося электротехника из Bell Labs, заключалась в том, что математика может быть ценной в мире искусства. Эта идея была разделена многими, кто работал в области ранних вычислений. Когда мы думаем о произведениях искусства, которые включают математику, мы можем представить что-то очень упорядоченное и точное, но Пирс пришел к противоположному выводу. Он заключил, что полезность математики заключается в том, что она может убрать порядок из искусства. Затем, очень расчетливо, математика могла добавить всплеск неожиданности как средство отклониться от клише и добавить элемент нерегулярности, который мог бы привести к инсайту. Один из популярных способов добавления нерегулярности в предсказуемые компьютеры заключался в использовании искусственных (или случайных) нейронных сетей. Многие ранние нейронные сети были созданы психологами, которые считали, что, позволяя ученым построить модель мозга, искусственные нейронные сети позволяли наблюдать, что происходит внутри, включая то, как мозги совершают продуктивные ошибки. Вместо того чтобы быть черными ящиками, исследователи полагали, что эти системы могут открыть этот черный ящик разума и позволить ученым заглянуть внутрь и увидеть все «непорядочные» вещи, которые на самом деле происходят. Однако существовала и другая группа в мире ИИ, которая считала, что креативное мышление — это просто «нормальное» мышление, сделанное лучше. Интересно рассмотреть эти две очень упрощенные эвристики для понимания интеллекта и креативности и то, как они сочетаются или не сочетаются. Дебаты касались попыток определить, к чему сводится человеческая изобретательность, а затем как воспроизвести человеческую изобретательность в машинной форме. Линдквист также отмечает, что ранние инженеры по-другому воспринимали ИИ, чем мы сегодня. В то время как современные системы ИИ, такие как ChatGPT или Claude, ценятся за то, что они дают в большинстве случаев правильные ответы, ранние сторонники этих систем ценили их именно за противоположную причину — они хотели систему, которая иногда давала бы ответы, отклоняющиеся от их ожиданий. У них уже были системы, способные выдавать разумные и ожидаемые ответы, и они рассматривали нейронные сети как ценные, потому что они могли давать неожиданные, возможно, даже странные и необычные ответы. Линдквист подчеркивает, что одно из объяснений изменения восприятия этих систем может заключаться в том, как они функционируют. Ранее эти системы были ограничены лабораториями, и не было реальных последствий для системы, которая давала странный или неправильный вывод. Однако сейчас существуют юридические и финансовые причины, по которым OpenAI или Anthropic не хотят, чтобы чат-бот выдавал неожиданные или креативные ответы. В этих системах произошло «сглаживание» странностей. Хотя они все еще могут иметь это в своей основе, сейчас это в значительной степени подавлено. Линдквист также объясняет, как ранние нейронные сети, которые внедряли случайность для имитации человеческой креативности, эволюционировали и стали доминирующей парадигмой в ИИ. На протяжении долгого времени специфический вид ИИ, называемый «символическим ИИ», был доминирующим подходом. Символический ИИ утверждает, что мир основан на правилах. Роль исследователя ИИ заключается в том, чтобы попытаться реконструировать знания о мире в фактах и предложениях и ввести их в компьютер. Нейронные сети, использующие случайность для решения проблем, начали набирать популярность в 1950-х, но вскоре потеряли популярность. Франк Розенблатт, психолог, который был важной фигурой в ранних нейронных сетях, погиб преждевременно. К моменту его смерти сдвиг в сторону символического ИИ уже был в процессе. Возможно, если бы он дожил, все могло бы сложиться иначе. Однако нейронные сети никогда не исчезали. К 1980-м годам они начали перемещаться в мир когнитивной науки. Чтобы стать более мощными и полезными, нейронным сетям потребовалось много данных и вычислительной мощности, которые не появились до появления интернета, когда стало доступно много данных и вычисления начали набирать мощность. Около 2012 года нейронные сети начали превосходить и опережать статистические формы машинного обучения и продолжали расти с тех пор. Наконец, Линдквист подводит итог урокам, которые можно извлечь из изучения истории ИИ, чтобы информировать его развитие. Он считает, что здесь есть предостерегающий урок. Идеи и опыт этих ранних инженеров показывают, что мы можем стремиться к устранению галлюцинаций — мы можем работать над тем, чтобы ИИ работал определенным образом, чтобы он не выдавал неожиданные или нежелательные ответы — но это приведет к другим последствиям. Эти исторические фигуры были правы в чем-то. Существует связь между удивительными и креативными выводами, которые ИИ может предложить, и ошибками или галлюцинациями. Существуют компромиссы, когда мы строим наши системы, чтобы они вели себя определенным образом. Возможно, невозможно полностью находиться на любом из концов спектра, но, когда мы стремимся к одной цели, мы часто непреднамеренно жертвуем чем-то другим. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.