✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту. К созданию теста OpenAI привело понимание, что простой проверки базовых знаний ИИ уже недостаточно. За последний год компания существенно улучшила навыки GPT по работе с браузерами, операционными системами и внешними интеграциями. LifeVal помогает команде разработки объективно измерять этот прогресс, ускоряя трансформацию ChatGPT из обычного чат-бота в полноценного ассистента, способного брать на себя настоящую рутину. Чтобы понять, где именно людям нужна помощь ассистента, инженеры компании проанализировали международные исследования о повседневной жизни и распределении времени у жителей разных стран, плюс дополнительно опросили около четырех тысяч человек о том, в каких задачах они хотели бы видеть ИИ-помощников. На основе этих данных в LifeVal интегрировали сценарии из реальной жизни - от управления личными финансами и онлайн-покупок до взаимодействия с государственными сервисами и уходом за близкими. Результаты, опубликованные OpenAI, показывают, что средний балл GPT-5.2 составляет 49,3%, а GPT-6 Astra – уже 80,6%. Прогресс в основном наблюдается на ранних моделях -: GPT-5.4 набрал 73%, GPT-5.6 – 80%, а самая новая версия Astra улучшила результат всего на 0,6 процентных пункта. О планах публикации бенчмарка ничего не сказано, это внутренняя система тестирования, разработанная и оцениваемая самой OpenAI. @ai_machinelearning_big_data
OpenAI 讲述了它如何测试代理执行用户的真实日常任务
✔️ OpenAI 描述了它如何在用户的实际日常任务上测试代理。为此,他们使用内部 LifeVal 基准,该基准评估神经网络在日常生活中的实际好处。 OpenAI 测试的创建是基于对基础知识的简单测试的理解......
AI 摘要:要点
- ✔️ OpenAI 描述了它如何在用户的实际日常任务上测试代理。为此,他们使用内部 LifeVal 基准,该基准评估神经网络在日常生活中的实际好处。 OpenAI 测试的创建是基于对基础知识的简单测试的理解......
OpenAI 讲述了它如何测试代理执行用户的真实日常任务
相关文章
订阅 AI 不再意味着无限:ChatGPT、Claude 和 Gemini 发生了什么变化
订阅 AI 不再意味着无限:ChatGPT、Claude 和 Gemini 发生了哪些变化 ⠀ 您可以保存查询、采用更简单的模型、在神经网络之间转移任务或寻找解决方法。一切都是为了不在工作中达到极限。进一步的限制只会...
腾讯发布了新模型Hy4,可以与最强开源AI模型展开激烈竞争……
腾讯发布了新模型 Hy4,可以与开放权重的最强 AI 模型进行激烈竞争。根据腾讯内部测试,Hy4 在 APEX-Agents 基准测试中得分为 75.2,领先于 DeepSeek V4.1 Flash-1017 的得分 72.1 和 72.9...
ENCARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs
arXiv:2611.03651v1 Announce Type: new Abstract: Geometric certificates make mathematical claims about specified estimator objects, while robotic action requires a physical transform, a service decision, and timely proof support. We present CARD, a proof-carrying interface that…
ENMCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication
arXiv:2611.03662v1 Announce Type: new Abstract: The Model Context Protocol (MCP) connects large language model agents to external tools and services through official SDKs that implement message validation and session logic. Specification constraints omitted by these SDKs may…