✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту. К созданию теста OpenAI привело понимание, что простой проверки базовых знаний ИИ уже недостаточно. За последний год компания существенно улучшила навыки GPT по работе с браузерами, операционными системами и внешними интеграциями. LifeVal помогает команде разработки объективно измерять этот прогресс, ускоряя трансформацию ChatGPT из обычного чат-бота в полноценного ассистента, способного брать на себя настоящую рутину. Чтобы понять, где именно людям нужна помощь ассистента, инженеры компании проанализировали международные исследования о повседневной жизни и распределении времени у жителей разных стран, плюс дополнительно опросили около четырех тысяч человек о том, в каких задачах они хотели бы видеть ИИ-помощников. На основе этих данных в LifeVal интегрировали сценарии из реальной жизни - от управления личными финансами и онлайн-покупок до взаимодействия с государственными сервисами и уходом за близкими. Результаты, опубликованные OpenAI, показывают, что средний балл GPT-5.2 составляет 49,3%, а GPT-6 Astra – уже 80,6%. Прогресс в основном наблюдается на ранних моделях -: GPT-5.4 набрал 73%, GPT-5.6 – 80%, а самая новая версия Astra улучшила результат всего на 0,6 процентных пункта. О планах публикации бенчмарка ничего не сказано, это внутренняя система тестирования, разработанная и оцениваемая самой OpenAI. @ai_machinelearning_big_data
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataOpenAI told how it tests agents on real everyday tasks of users
✔️ OpenAI described how it tests agents on real everyday tasks of users. To do this, they use the internal LifeVal benchmark, which evaluates the practical benefits of neural networks in everyday life. The creation of the OpenAI test was led by the understanding that a simple test of basic knowledge...
AI Summary & Key Takeaways
- ✔️ OpenAI described how it tests agents on real everyday tasks of users
- To do this, they use the internal LifeVal benchmark, which evaluates the practical benefits of neural networks in everyday life
- The creation of the OpenAI test was led by the understanding that a simple test of basic knowledge...
OpenAI told how it tests agents on real everyday tasks of users
Related stories
Subscription to AI no longer means unlimited: what has changed with ChatGPT, Claude and Gemini
Subscribing to AI no longer means unlimited: what has changed for ChatGPT, Claude and Gemini ⠀ You save queries, take a simpler model, transfer tasks between neural networks or look for workarounds. All in order not to hit the limit in the middle of work. Further restrictions will only be...
Tencent has released a new model, Hy4, which can seriously compete with the strongest open-source AI models...
Tencent has released a new model, Hy4, that can seriously compete with the strongest AI models with open weights. Based on Tencent's internal testing, Hy4 scored 75.2 in the APEX-Agents benchmark, ahead of DeepSeek V4.1 Flash-1017, which scored 72.1 and 72.9...
CARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs
arXiv:2611.03651v1 Announce Type: new Abstract: Geometric certificates make mathematical claims about specified estimator objects, while robotic action requires a physical transform, a service decision, and timely proof support. We present CARD, a proof-carrying interface that…
MCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication
arXiv:2611.03662v1 Announce Type: new Abstract: The Model Context Protocol (MCP) connects large language model agents to external tools and services through official SDKs that implement message validation and session logic. Specification constraints omitted by these SDKs may…