Согласно материалу VentureBeat, агенты искусственного интеллекта могут улучшать своё поведение, развивая повторно используемые навыки на основе успешных и неудачных попыток выполнения задач. Однако системы, которые развивают эти навыки, могут терять то, что они узнали, что заставляет их заново открывать старые ошибки. WikiSkill, новая структура от Google Research и Вирджиния Тех, решает эту проблему, добавляя организованный слой знаний между сырым опытом агента и навыками, которые он использует. Вместо того чтобы постоянно извлекать навыки из изолированных траекторий, структура создаёт структурированную вики из информации, собранной из прошлых опытов агента. Затем она использует вики для построения будущих навыков. В экспериментах исследователей в различных областях и моделях WikiSkill показал лучшие результаты по сравнению с существующими методами эволюции навыков. Результаты также предполагают, что его преимущества могут увеличиваться с ростом размера модели и что развиваемые навыки могут передаваться между моделями. Для команд корпоративного ИИ WikiSkill предлагает способ превратить трассировки выполнения, которые их агенты уже генерируют, в повторно используемые знания и навыки. Упущенный слой знаний в эволюции навыков упаковывает специфические для домена инструкции, сценарии и рабочие процессы в повторно используемые модули. Они предоставляют агентам специализированные процедурные знания без необходимости изменения параметров модели. Однако создание навыков является сложной задачей. Многие из них всё ещё пишутся вручную, что означает, что разработчики должны предвидеть рабочие процессы и крайние случаи, с которыми агент столкнётся. Недавние структуры эволюции навыков пытаются автоматизировать эту работу, запускают агентов на тренировочных задачах, анализируют успешные и неудачные траектории и генерируют обновления навыков на основе полученного опыта. Различные системы сохраняют части этого процесса. Trace2Skill отдельно анализирует успешные и неудачные траектории и объединяет их уроки в патчи навыков. EvoSkill ищет среди кандидатных программ навыков и предоставляет их предложителю неудачные трассировки наряду с плоской историей предыдущих предложений. SkillOpt использует многоступенчатый рефлексивный процесс для анализа траекторий и обновления документа навыка. Лиян Тан, научный сотрудник Google и соавтор статьи, говорит, что полезные диагнозы могут исчезнуть, даже когда оптимизатор правильно определяет, что пошло не так. "Во многих самосовершенствующихся структурах оптимизатор может читать трассировки, предлагать патч, а затем отбрасывать диагноз, включая информацию о том, какие исправления не прошли проверку," - говорит Тан. "Это означает, что система продолжает заново открывать одни и те же ошибки и снова предлагать отклонённые исправления." WikiSkill предоставляет этим диагнозам и неудачным вмешательствам постоянное место. Даже когда предложенный навык отклоняется, система сохраняет знания, которые привели к нему, и результат теста на валидацию, позволяя последующим итерациям строить на этой истории, а не начинать с той же информации снова. WikiSkill вдохновлён идеей Андрея Карпаты о "LLM Wiki", которая предлагает компилировать опыт в постоянные, накапливаемые знания. Тан описывает адаптацию WikiSkill к концепции следующим образом: "Мы сохранили форму Карпаты: неизменяемые источники, вики, поддерживаемую LLM, индекс и журнал, но входными данными являются траектории выполнения агента, а выходом - исполняемый SKILL.md." WikiSkill делит рабочее пространство агента на три слоя: Первый слой, Raw Layer, хранит неизменяемые трассировки выполнения. Эти данные включают действия агента, его рассуждения, вызовы инструментов, результаты инструментов и конечные ответы. Он служит исторической записью того, что агент действительно сделал. Второй слой, Wiki Layer, преобразует эти трассировки в структурированные знания. Он содержит отдельные страницы для повторяющихся режимов неудач и успешных стратегий, журнал эволюции и трекер влияния навыков, который фиксирует, какие изменения навыков были предложены и улучшили ли они производительность. Третий слой, Skill Layer, содержит процедурные инструкции, доступные агенту во время выполнения задачи. Каждый навык также ссылается на вики-шаблоны, которые мотивировали его создание или изменение. Архитектура WikiSkill включает четыре этапа в каждом цикле эволюции. Сначала агент вывода выполняет тренировочные задачи с текущими навыками и генерирует новые трассировки. Затем куратор вики анализирует выборочные успешные и неудачные траектории и обновляет вики. Предложитель навыков читает обновлённую вики и выбранные трассировки и предлагает новый навык или изменения существующих навыков. Наконец, набор кандидатных навыков оценивается на валидационном наборе. Изменение сохраняется только в том случае, если оно улучшает лучший результат валидации на данный момент. Кейс-стадия из ALFWorld, текстовой симулированной среды, где агенты выполняют многошаговые задачи по манипуляции объектами, показывает, как это работает. В первой итерации система выявила повторяющееся поведение: агент постоянно поднимал, исследовал и возвращал объекты на их исходные места. Предложитель навыков создал широкий навык "целенаправленного действия", но этот навык был отклонён на этапе валидации. Вики сохранила как наблюдаемое поведение, так и отклонённое предложение. В следующей итерации предложитель создал более конкретный навык "разрыва цикла повторения" с правилом "Никогда не возвращай предмет на его исходное место." Это изменение улучшило производительность валидации и было принято. Когда позже траектории выявили другой паттерн зацикливания, система уточнила тот же навык, добавив дополнительное правило, а не начиная заново. Исследователи оценили WikiSkill по пяти бенчмаркам, охватывающим математическое мышление, веб-поиск, электронные таблицы, ответ на вопросы по документам с длинным контекстом и интерактивные домашние задачи. Они протестировали модели Qwen, Gemma и Gemini и сравнили структуру с Trace2Skill, EvoSkill, SkillOpt и агентами, работающими без навыков. Исследователи обнаружили, что WikiSkill достиг наивысшего среднего балла для каждой протестированной модели. По сравнению с самой сильной конкурирующей структурой эволюции навыков для каждой модели его преимущество колебалось от 3,3 до 12 процентных пунктов. Средний прирост WikiSkill увеличивался с ростом размера модели Qwen. "Мы увидели противоположность потолку: в рамках семейства Qwen приросты увеличивались с масштабом: +12,3, +17,5 и +23,9 пункта при 4B, 9B и 27B с их собственными разработанными навыками," - говорит Тан. В то же время навыки могли компенсировать часть разрыва в размере модели: Qwen-3.5-9B с WikiSkill достиг 47,4% средней точности, по сравнению с 39,4% для Qwen-3.6-27B без навыков. Навыки также могли передаваться между моделями в некоторых случаях. Qwen-3.5-9B набрал 70,2% на ALFWorld, когда ему был предоставлен навык, развиваемый Qwen-3.6-27B, по сравнению с 63,4% при использовании собственного развиваемого навыка. Статья предоставляет алгоритм эволюции и подсказки, используемые для куратора вики и предложителя навыков, что делает архитектуру простой для воспроизведения на концептуальном уровне. Основной принцип заключается в том, чтобы сохранять полные трассировки выполнения, извлекать повторяющиеся паттерны успеха и неудачи в отдельное хранилище знаний, поддерживать аудит изменений и использовать другого агента для перевода накопленных знаний в узкие процедурные изменения. Эти изменения должны проходить независимый этап валидации, прежде чем войти в активный набор навыков. Для производственных систем разделение между вики и исполняемым навыком также является решением по затратам на вывод. "Память должна быть исчерпывающей, а производственный запрос должен быть компактным, поэтому их объединение требует менее эффективного компромисса," - говорит Тан. "Вместо этого мы держим вики вне контекста агента вывода, так что производство платит только за компактные навыки, которые составляют около 45 до 129 строк в наших запусках." Эксперименты по абляции статьи поддерживают этот дизайн. В тестах с использованием Gemini-3.5-Flash по четырем бенчмаркам стандартная настройка — с постоянной вики, доступной предложителю навыков, но не агенту вывода — в среднем составила 63,7%, по сравнению с 48,7%, когда предложителю навыков не был предоставлен доступ к вики, а куратор вики был удалён. Предоставление доступа агенту вывода также снизило этот показатель до 60,9%. Исследователи предполагают, что если агент вывода может решать тренировочные задачи непосредственно из знаний вики, его траектории менее информативны о слабостях самих навыков. Компромисс заключается в дополнительной работе на этапе эволюции навыков. WikiSkill использует предложителя навыков ReAct, где модель чередует размышления и вызовы инструментов, пока исследует вики и трассировки выполнения перед предложением изменения. В экспериментах это заняло примерно 10-20 поворотов ReAct на итерацию эволюции, помимо вызова куратора вики. Однако, поскольку исследователи обрабатывали полный набор тренировочных данных за один раз, количество вызовов LLM оптимизатора на итерацию не увеличивалось с количеством примеров обучения. Архитектура наиболее актуальна для агентов, которые многократно выполняют многошаговые рабочие процессы и накапливают достаточно истории, чтобы возникли повторяющиеся режимы неудач и успешные стратегии. Тан отмечает, что держать вики вне вывода может сэкономить вычислительные ресурсы в большом масштабе, в то время как более сложные приложения в конечном итоге могут извлечь выгоду из предоставления агенту времени выполнения доступа как к навыкам, так и к выбранным знаниям вики. Это потребует тщательных решений о том, что должно входить в каждый слой, чтобы вики дополняла, а не дублировала файлы навыков. Существует ещё множество производственных вопросов, на которые статья не отвечает. WikiSkill внедряет активные навыки непосредственно в запрос модели, поэтому не тестируется извлечение или активация навыков по мере роста библиотек навыков. Его валидационные ворота отклоняют изменения, которые не приводят к немедленному улучшению производительности, даже если они могут обеспечить будущие выгоды. Вики также растёт непрерывно без автоматического механизма обрезки, а эксперименты не охватывают задачи, которые выполняются в течение сотен действий или нескольких часов. Статья определяет автоматическую обрезку вики и онлайн-адаптацию навыков в ходе долгосрочных задач как открытые проблемы. Тан говорит, что команда уже исследует это направление: "Этот переход — это то, что мы сейчас исследуем, и это может быть всего лишь вопрос времени, прежде чем мы к нему придём." Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.