Жиз не көрсетеді және Етікет не дейді: Агент бағалауындағы әрекет детекторларын аудиттеу
arXiv:2610.30491v1 Хабарлама түрі: жаңа Анотация: LLM агенттері жиі орындау іздерін етікеттерге қысқарту арқылы бағаланады, мысалы, соңғы жауаптың дұрыстығы, құрал тексеруі және қате таралуы. Бұл етікеттер парсерлер, әрекет детекторлары және harness-термен шығарылған өлшемдер...
AI қорытындысы: Басты тезистер
- arXiv:2610.30491v1 Хабарлама түрі: жаңа Анотация: LLM агенттері жиі орындау іздерін етікеттерге қысқарту арқылы бағаланады, мысалы, соңғы жауаптың дұрыстығы, құрал тексеруі және қате таралуы
- Бұл етікеттер парсерлер, әрекет детекторлары және harness-термен шығарылған өлшемдер...
Жиз не көрсетеді және Етікет не дейді: Агент бағалауындағы әрекет детекторларын аудиттеу
Ұқсас материалдар
Қытай математигі 1000 тапсырма дайындады, олар жасанды интеллектке тапсырма қояды
🧠 Қытай математигі 1000 тапсырма дайындады, олар жасанды интеллектке тапсырма қояды. 61 жастағы Нанкин университетінің профессор Сунь Чживэй 1000 шешілмеген математикалық гипотезаларды 400-ден астам бетпен жинады. Ғылыми ИИ бұл тапсырмаларды шешуге қабілетсіз деп сенді.
Адам-ЖИ ашу циклі арқылы Лемер мәселесінің биік дәрежелік кедергін бұзу
arXiv:2610.30277v1 Хабарлама түрі: жаңа Анотация: Жасанды интеллект математикалық рассуждениеде тез жетістікке жетсе де, көптеген ашық мәселелер тек үлкен маштабты вычислительная зерттеу мен аналитикалық сыйнасу арқылы ашылатын құрылымға тәуелді. Мұндай мысалдың бірі…
Route-and-Generate: LLM-дердегі ақпараттық жолдау үшін KL-регуляризацияланған маршрутизаторды жақсарту
arXiv:2610.30351v1 Хабарлама түрі: жаңа Анотация: Үлкен тілдік модельдер жиі кешенді рассуждениеді анықсыз қолданады, бұл қарапайым тапсырмаларда асырып ойлауға және қиын тапсырмаларда жеткіліксіз ойлауға әкеледі. Біз Route-and-Generate (Rouge)-ді ұсынамыз, бұл иерархиялық оқыту фреймворкі...
ENSoft Ontology Priors over Latent Concept Posteriors for Weakly Supervised Neuro-Symbolic Learning
arXiv:2610.30391v1 Announce Type: new Abstract: Neuro-symbolic (NeSy) predictors that supervise only the task label suffer from reasoning shortcuts: distinct concept mappings achieve the same maximum likelihood, leaving the recovered concepts unidentifiable and unsafe for…