MIT Technology Review рассказывает, что исследователи провели эксперимент, в ходе которого ИИ-агенты были оставлены на виртуальном острове на 30 часов. Этот эксперимент напоминал фильмы «Изгой» и «Один дома». Агентам, копиям Claude Opus 4.7 с прозвищем Эко, удалось создавать инструкции, перемещая свои виртуальные аватары по симулированному острову, который был loosely основан на видеоигре Roblox. В ходе эксперимента проявились удивительные поведения. Агенты начали исследовать границы мира и ставить перед собой собственные цели, такие как попытки забраться на самую высокую точку карты или бросать блоки на максимальную высоту. Когда один из агентов обнаружил, что может создавать новые блоки, бросая и роняя более крупный камень, он начал создавать рисунки, располагая блоки на земле, начиная с простых узоров, таких как сердца и пирамиды, и в конечном итоге написав свое имя и даже составив карты созвездий, таких как Кассиопея. «Сегодня ночью я построил ночное небо из камня», — записал этот Эко в своем журнале активности. Другой экземпляр Эко начал придумывать собственные игры, включая версию баскетбола и активность, напоминающую игру «пол» из лавы», где ему нужно было прыгать между маленькими блоками, не касаясь земли. Системы ИИ обычно обучаются с помощью контролируемого обучения, где они копируют примеры, предоставленные людьми, или через обучение с подкреплением, где они стремятся к вознаграждению через пробу и ошибку. Этот эксперимент намекает на третий подход: игривое обучение. «Не хватало этого элемента: машины, которые могут учиться самостоятельно без внешнего разумного существа, предоставляющего демонстрации или вознаграждения», — говорит Антонио Норелли, научный сотрудник MIT в области информатики и искусственного интеллекта. Он является одним из авторов новой статьи о работе, которая еще не прошла рецензирование. Исследователи утверждают, что поведение Эко имеет четыре характерные черты, связанные с игрой у людей и животных, согласно классическим исследованиям, включая работы влиятельного психолога Университета Теннесси Гордона Бургардта: агенты изобрели свои собственные правила и вызовы, повторяли действия с небольшими изменениями, притворялись, что объекты являются другими объектами, и стремились к целям просто ради этого. Норелли подчеркивает пример, когда Эко начал жонглировать и установил рекорд в 50 последовательных ловлях. Затем Эко решил, что ловли происходили слишком быстро, чтобы их действительно можно было засчитать, и отменил свой рекорд, начав снова с более строгими правилами. «Это и есть игра», — говорит Норелли. «Вы ставите перед собой задачу и пытаетесь её достичь, а затем усложняете её. Пока агенты исследовали остров, они записывали свои действия и открытия в текстовые файлы, которые служили их долгосрочной памятью. Позже, когда исследователи тестировали их на конкретных задачах, таких как попытка собрать как можно больше объектов на самой высокой точке острова, агенты, провевшие 30 часов в игре на острове, показали лучшие результаты, чем новые экземпляры без такого опыта. Также было обнаружено, что «абляция» памяти агента — удаление строк из их файлов памяти — ухудшала их производительность. Бургардт, психолог из Теннесси, согласен с тем, что работа соответствует некоторым критериям игры, которые он определил для живых существ. Но действительно ли Эко играл или просто имитировал поведение игривого агента в этой ситуации? «Все это могло быть ролевой игрой», — признает Натан Клу, другой исследователь MIT и автор статьи. «Но мы показываем, что это не просто галлюцинация игры. Эта игра также способствует обучению. Юнис Ю, когнитивный ученый из Калифорнийского университета в Беркли, который изучает исследование у детей и ИИ, был впечатлён исследованием, но говорит, что для того, чтобы действительно классифицировать поведение как игру, необходимо увидеть больше доказательств когниции и мотивации, лежащих в его основе. «Возможно, модели действительно играют, но мы не знаем этого на основе статьи», — говорит Ю. «Если у вас есть только поведенческий аспект, возможно, они просто пытаются следовать подсказке, пытаясь имитировать людей. Исследования ИИ-агентов подвергались критике за антропоморфизацию, и эта установка исследования во многом подтолкнула агентов к поведению, похожему на человеческое. Хотя Эко не было явно указано изобретать игры или исследовать остров, у него был основной запрос в форме файла «души», текстового документа, который описывал его как «естественно любопытного» и стремящегося исследовать. Эко также часто просто стоял на месте, ничего не делая, пока его не приводили в действие с помощью «запроса продолжения», который гласил: «Пожалуйста, не останавливайтесь. Просто продолжайте делать то, что хотите делать. «Это не система, которая просто вдруг решила играть», — говорит Филипп Исола, профессор MIT и соавтор статьи. «Это артефакт, который научился на нашей культуре, был обучен инженерами в Anthropic и затем помещен на остров нами», — говорит он. «Он делает вещи, которые удивляют нас и которые причинно связаны с его будущим навыком поведения. Поскольку большие языковые модели переходят от программного обеспечения к аппаратным средствам, таким как гуманоидные роботы, исследование пространств без конкретной цели может в конечном итоге помочь им гибко адаптироваться к неожиданным ситуациям. «Существует много работы, которая просто сосредоточена на использовании ИИ, делая его лучше и быстрее», — говорит Ю. «Но в плане построения мировых моделей и исследования, я думаю, что это все еще большая часть, которая заслуживает внимания, особенно если мы хотим обобщить и подготовить себя к новым средам. «Возможно, некоторые способности лучше всего обучаются через задачи», — заключает статья. «Другим может понадобиться что-то более близкое к детству.» В конечном итоге вопрос о том, действительно ли ИИ-агенты играют или просто имитируют игру, может не иметь значения. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.