Sakana AI taught the model to learn from its own team of agents

⚡️ Sakana AI научила модель учиться у собственной команды агентов Sakana AI вместе с UC Berkeley представила MASS (Multi-Agent Self-Supervision). Это способ рекурсивного самоулучшения модели без людей и без внешнего учителя. Идея такая. Одна модель играет сразу три роли: исполнителя, оптимизатора воркфлоу и судьи. Сначала она решает задачу командой виртуальных сабагентов, затем сама ищет лучшую схему их взаимодействия и сама выбирает победителя. Лучшие прогоны команды становятся данными для дообучения, и после LoRA-тюна модель запоминает коллективный опыт своих агентов уже без подсказок про воркфлоу. Затем цикл повторяется. Эксперимент проводили на Qwen3.6-27B и синтетических открытых исследовательских задачах. После двух циклов показатель «очки на выходной токен» вырос в 1,2-1,6 раза относительно базы: 1,6x на MLR-Bench, 1,35x на DSBench, 1,28x на AstaBench и 1,2x на ScienceAgentBench. На Terminal-Bench 2.0 и SWE-bench Verified прироста не было. Модель учили только решать задачи, но при этом у неё заодно выросли навыки оптимизатора и судьи. Мультиагентные траектории оказались эффективнее одиночных: 68% побед над базой при примерно 31% меньшем объёме данных. И скорость улучшения упирается в оптимизатор, а не в судью. Авторы честно называют главный риск. Когда модель сама себя оценивает, её слепые зоны могут засчитываться как прогресс и закрепляться обучением. Если ИИ будет развиваться выше уровня человеческой экспертизы, нужно уметь вовремя замечать такие сбои и вмешиваться. Блог: https://pub.sakana.ai/mass/ Статья: https://arxiv.org/abs/2610.12176 Код: https://github.com/SakanaAI/mass @ai_machinelearning_big_data