🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала. Вместе с кодом выложены около 26 тысяч трейсов агентов Gemini 3.5 flash и Opus 4.8, на генерацию которых ушло больше 100 тысяч долларов. ИИ-агент решает одну и ту же задачу несколько раз, и каждая попытка даёт свой вариант отчёта, таблицы, документа или патча. VeriHarness сверяет все эти варианты с файлами и данными рабочего пространства и выдаёт лучший вариант, исправленный по найденным ошибкам, вместе с журналом проверок, но эталонных ответов и критериев оценки проверяющий не видит. Идею подсказали запуски Claude Opus 4.8 на бенчмарке APEX-Agents, где треть ответов, в которых сходились все десять попыток, оказалась ошибочной, а при расхождении верный вариант обычно был среди попыток, но голосование большинством выбирало его лишь примерно в половине случаев. 🟡 Механика Проверка идёт в двух отдельных контекстах модели. Первый разбирает утверждения, в которых прогоны расходятся, и подбирает проверку, которая лучше всего отделит верный вариант. Второй ищет ошибки там, где все прогоны согласны, например пересчитывает итоги или сверяет валюту с метаданными источника. Затем новый контекст сводит оба журнала, выбирает базовый прогон и план правок, а нерешённые вопросы помечает отдельно. Что именно проверять, подсказывают 18 навыков, коротких инструкций со скриптами для таблиц, PDF, документов, презентаций и патчей. Навыки умеют пополняться сами из разборов ошибок на отладочных задачах. Протокол работает внутри Gemini CLI, Claude Code и Codex. 🟡Тесты На пяти бенчмарках рабочих задач APEX-Agents, SpreadsheetBench 2 и JobBench, VeriHarness с правками поднял средний результат по сравнению с одиночным прогоном с 47,2 до 53,4 балла у Gemini 3.5 Flash и с 49,6 до 56,1 у Claude Opus 4.8. Сильнее всего вырос APEX-Agents у Opus, с 35,8 до 47,5. Без правок, в режиме выбора лучшего прогона, VeriHarness обошёл все сравниваемые методы, включая LLM-as-a-Verifier, на всех бенчмарках у обеих моделей.
Материал агрегирован из первоисточника:
Telegram — AI Machine Learning Big Data
Читать полностью в Telegram — AI Machine Learning Big DataМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
VeriHarness: обвязка для проверки работы агентов той же моделью
🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала. Вместе с кодом выложены около 26 тысяч…
Кратко от AI: Главные тезисы
- 🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала
- Вместе с кодом выложены около 26 тысяч…
VeriHarness: обвязка для проверки работы агентов той же моделью
Похожие материалы
ENAnthropic pitches AI safety bill that may block a model if 50+ people could be killed
The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model's release without the permission of a judge.
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
Более персонализированный искусственный интеллект Gemini от Google направляется к вашей машине
Google внедряет личный интеллект в ИИ Gemini в вашем автомобиле. Благодаря этому обновлению Gemini в Android Auto и автомобили со встроенным Google смогут использовать вашу информацию в приложениях Google, включая Gmail, Календарь, Карты, Фотографии, YouTube и Поиск. В качестве примера Google говорит…
Хватит платить за ИИ, запускайте все локально (вот как)
Большие лаборатории не собираются об этом говорить, а будут постоянно изучать идею улучшения моделей для ваших собственных сценариев использования [музыки] для ваших собственных рабочих процессов. У крупных лабораторий нет стимула предоставлять пользователям эту [музыку], потому что они тренируют свои модели для нормальной работы…



