✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту. К созданию теста OpenAI привело понимание, что простой проверки базовых знаний ИИ уже недостаточно. За последний год компания существенно улучшила навыки GPT по работе с браузерами, операционными системами и внешними интеграциями. LifeVal помогает команде разработки объективно измерять этот прогресс, ускоряя трансформацию ChatGPT из обычного чат-бота в полноценного ассистента, способного брать на себя настоящую рутину. Чтобы понять, где именно людям нужна помощь ассистента, инженеры компании проанализировали международные исследования о повседневной жизни и распределении времени у жителей разных стран, плюс дополнительно опросили около четырех тысяч человек о том, в каких задачах они хотели бы видеть ИИ-помощников. На основе этих данных в LifeVal интегрировали сценарии из реальной жизни - от управления личными финансами и онлайн-покупок до взаимодействия с государственными сервисами и уходом за близкими. Результаты, опубликованные OpenAI, показывают, что средний балл GPT-5.2 составляет 49,3%, а GPT-6 Astra – уже 80,6%. Прогресс в основном наблюдается на ранних моделях -: GPT-5.4 набрал 73%, GPT-5.6 – 80%, а самая новая версия Astra улучшила результат всего на 0,6 процентных пункта. О планах публикации бенчмарка ничего не сказано, это внутренняя система тестирования, разработанная и оцениваемая самой OpenAI. @ai_machinelearning_big_data
Материал агрегирован из первоисточника:
Telegram — AI Machine Learning Big Data
Читать полностью в Telegram — AI Machine Learning Big DataOpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей
✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту. К созданию теста OpenAI привело понимание, что простой проверки базовых знаний…
Кратко от AI: Главные тезисы
- ✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту
- К созданию теста OpenAI привело понимание, что простой проверки базовых знаний…
OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей
Похожие материалы
Подписка на ИИ больше не значит безлимит: что изменилось у ChatGPT, Claude и Gemini
Подписка на ИИ больше не значит безлимит: что изменилось у ChatGPT, Claude и Gemini ⠀ Экономишь запросы, берёшь модель попроще, переносишь задачи между нейросетями или ищешь обходные пути. Всё ради того, чтобы не упереться в лимит посреди работы. Дальше ограничения будут только…
Tencent выпустила новую модель Hy4, которая может составить серьёзную конкуренцию сильнейшим ИИ-моделям с открытыми в...
Tencent выпустила новую модель Hy4, которая может составить серьёзную конкуренцию сильнейшим ИИ-моделям с открытыми весами. По результатам внутренних испытаний Tencent, Hy4 набрала 75,2 балла в бенчмарке APEX-Agents, опередив DeepSeek V4.1 Flash-1017, получившую 72,1 и 72,9…
ENCARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs
arXiv:2611.03651v1 Announce Type: new Abstract: Geometric certificates make mathematical claims about specified estimator objects, while robotic action requires a physical transform, a service decision, and timely proof support. We present CARD, a proof-carrying interface that…
ENMCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication
arXiv:2611.03662v1 Announce Type: new Abstract: The Model Context Protocol (MCP) connects large language model agents to external tools and services through official SDKs that implement message validation and session logic. Specification constraints omitted by these SDKs may…