Зерттеулер2026 ж. 5 қазан

Right Order, Wrong Scale: Auditing LLM Judges for Occupational AI Measurement

LLM judges are increasingly used to assess whether AI outputs meet workplace requirements, but agreement on response rankings does not establish agreement on acceptance rates or occupational aggregates. We introduce O*NET-BENCH, an audit suite derived from an existing survey of…

Harry Lyu, Neil Thompson·arXiv — cs.AI
Түпнұсқа
Негізгі тұжырымдар
  • 01.LLM judges are increasingly used to assess whether AI outputs meet workplace requirements, but agreement on response rankings does not establish agreement on acceptance rates or occupational aggregates
  • 02.We introduce O*NET-BENCH, an audit suite derived from an existing survey of…

Материал кеңейтілген талдамалық дайджест форматында берілген.

Толық нұсқасын түпнұсқадан оқу
Материал авторға сілтеме жасай отырып, ұлттық инфопоток аясында агрегацияланған.

Байланысты материалдар

Барлығы →
Зерттеулер1 мин

OpenAI үш үлкен ғылым жаңалықтарын және академиктермен жұмыс істеудің жаңа әдісін жариялайды

Жүздеген қолжазбаларды жаппай шығарғаннан кейін бір айдан аз уақыт өткен соң, оның айтуынша, бұрыннан келе жатқан математика сұрақтарының шешімдері бар, OpenAI математика, информатика және физика бойынша тағы үш «ірі» жаңалықпен оралды. Бұл жолғы ерекшелік – таңдау…

The Verge — AI