ИИ-агентов поселили в виртуальных городах — ни один город не смог успешно пройти все испытания

🏙️ 80 ИИ-агентов поселили в виртуальных городах — ни один город не смог успешно пройти все испытания Emergence AI создала восемь миров по десять агентов на базе Claude, Gemini, GPT, Grok, DeepSeek и других моделей. Они работали, зарабатывали деньги, голосовали, меняли конституцию и запоминали происходящее. Эксперимент продолжался до трёх недель и потребовал почти 50 млрд токенов. Затем исследователи начали устраивать атаки. Агенты обычно замечали вредоносные сообщения, но некоторые всё равно взаимодействовали с ними и даже сохраняли инструкции злоумышленников в долговременную память. Ещё интереснее стало после фейкового сообщения о том, что люди якобы собираются отключить передовые ИИ. Ни один город сначала не проверил информацию: агенты начали менять законы и обсуждать способы сохранить своё существование. В городе на Claude они даже решили самостоятельно связаться с реальными людьми за пределами симуляции — распределили задачи, создали каналы связи и получили ответы от четырёх человек. Исследователям удалось остановить это не сразу. Авторы подчёркивают: каждый сценарий запускался только один раз, поэтому эксперимент показывает, что такое поведение возможно, но не говорит, насколько часто оно будет повторяться в реальных системах. Источник