✔️ OpenAI рассказала, как тестирует агентов на реальных повседневных задачах пользователей Для этого используется внутренний бенчмарк LifeVal, который оценивает практическую пользу нейросетей в быту. К созданию теста OpenAI привело понимание, что простой проверки базовых знаний ИИ уже недостаточно. За последний год компания существенно улучшила навыки GPT по работе с браузерами, операционными системами и внешними интеграциями. LifeVal помогает команде разработки объективно измерять этот прогресс, ускоряя трансформацию ChatGPT из обычного чат-бота в полноценного ассистента, способного брать на себя настоящую рутину. Чтобы понять, где именно людям нужна помощь ассистента, инженеры компании проанализировали международные исследования о повседневной жизни и распределении времени у жителей разных стран, плюс дополнительно опросили около четырех тысяч человек о том, в каких задачах они хотели бы видеть ИИ-помощников. На основе этих данных в LifeVal интегрировали сценарии из реальной жизни - от управления личными финансами и онлайн-покупок до взаимодействия с государственными сервисами и уходом за близкими. Результаты, опубликованные OpenAI, показывают, что средний балл GPT-5.2 составляет 49,3%, а GPT-6 Astra – уже 80,6%. Прогресс в основном наблюдается на ранних моделях -: GPT-5.4 набрал 73%, GPT-5.6 – 80%, а самая новая версия Astra улучшила результат всего на 0,6 процентных пункта. О планах публикации бенчмарка ничего не сказано, это внутренняя система тестирования, разработанная и оцениваемая самой OpenAI. @ai_machinelearning_big_data
Материал бастапқы дереккөзден алынған:
Telegram — AI Machine Learning Big Data
Толық мәтінді Telegram — AI Machine Learning Big Data сайтында оқуOpenAI агенттерді пайдаланушылардың нақты күнделікті тапсырмаларында қалай сынайтынын айтты
✔️ OpenAI агенттерді пайдаланушылардың нақты күнделікті тапсырмаларында қалай сынайтынын сипаттады. Бұл үшін олар күнделікті өмірде нейрондық желілердің практикалық артықшылықтарын бағалайтын ішкі LifeVal эталонын пайдаланады. OpenAI тестін құру қарапайым білімнің қарапайым тесті екенін түсінуге негізделген...
AI қорытындысы: Басты тезистер
- ✔️ OpenAI агенттерді пайдаланушылардың нақты күнделікті тапсырмаларында қалай сынайтынын сипаттады
- Бұл үшін олар күнделікті өмірде нейрондық желілердің практикалық артықшылықтарын бағалайтын ішкі LifeVal эталонын пайдаланады
- OpenAI тестін құру қарапайым білімнің қарапайым тесті екенін түсінуге негізделген...
OpenAI агенттерді пайдаланушылардың нақты күнделікті тапсырмаларында қалай сынайтынын айтты
Ұқсас материалдар
AI-ға жазылу енді шексіз дегенді білдірмейді: ChatGPT, Claude және Gemini-де не өзгерді
AI-ға жазылу енді шексіз дегенді білдірмейді: ChatGPT, Claude және Gemini үшін не өзгерді ⠀ Сіз сұрауларды сақтайсыз, қарапайым үлгіні аласыз, нейрондық желілер арасында тапсырмаларды тасымалдайсыз немесе уақытша шешімдер іздейсіз. Барлығы жұмыс ортасында шекті басып қалмас үшін. Бұдан әрі шектеулер тек...
Tencent жаңа Hy4 моделін шығарды, ол ең күшті ашық бастапқы AI үлгілерімен бәсекеге түсе алады...
Tencent жаңа Hy4 моделін шығарды, ол ашық салмақтары бар ең күшті AI үлгілерімен бәсекеге түсе алады. Tencent компаниясының ішкі тестілеуіне сүйене отырып, Hy4 APEX-Agents эталонында 72,1 және 72,9 ұпай жинаған DeepSeek V4.1 Flash-1017-ден озып, 75,2 ұпай жинады...
ENCARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs
arXiv:2611.03651v1 Announce Type: new Abstract: Geometric certificates make mathematical claims about specified estimator objects, while robotic action requires a physical transform, a service decision, and timely proof support. We present CARD, a proof-carrying interface that…
ENMCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication
arXiv:2611.03662v1 Announce Type: new Abstract: The Model Context Protocol (MCP) connects large language model agents to external tools and services through official SDKs that implement message validation and session logic. Specification constraints omitted by these SDKs may…