Модельные организмы сговора: Корректирующий перенос в ненадежных мониторах
arXiv:2610.30582v1 Тип объявления: new Аннотация: Протоколы контроля ИИ направлены на получение полезной работы от моделей, которые могут быть невыровненными (misaligned), путем мониторинга их поведения. Один из подходов использует вторую копию той же модели в качестве монитора. Это позволяет избежать зависимости от более слабого рецензента, которого модель...
Кратко от AI: Главные тезисы
- arXiv:2610.30582v1 Тип объявления: new Аннотация: Протоколы контроля ИИ направлены на получение полезной работы от моделей, которые могут быть невыровненными (misaligned), путем мониторинга их поведения
- Один из подходов использует вторую копию той же модели в качестве монитора
- Это позволяет избежать зависимости от более слабого рецензента, которого модель...
Модельные организмы сговора: Корректирующий перенос в ненадежных мониторах
Похожие материалы
Китайский математик подготовил 1000 задач, которые бросят вызов искусственному интеллекту
🧠 Китайский математик подготовил 1000 задач, которые бросят вызов искусственному интеллекту 61-летний профессор Нанкинского университета Сунь Чживэй составил сборник из 1000 нерешённых математических гипотез объёмом более 400 страниц. Учёный уверен, что ИИ не сможет решить…
Преодоление барьера высокой степени в задаче Лемера с помощью цикла открытий человек-ИИ
arXiv:2610.30277v1 Тип объявления: new Аннотация: Хотя искусственный интеллект достиг быстрого прогресса в математическом рассуждении, многие открытые проблемы зависят от структуры, которая раскрывается только через крупномасштабное вычислительное исследование и аналитический синтез. Одним из таких примеров…
Route-and-Generate: Улучшение KL-регуляризованного маршрутизатора для маршрутизации рассуждений в LLM
arXiv:2610.30351v1 Тип объявления: new Аннотация: Большие языковые модели часто применяют сложное рассуждение безразлично, что приводит к чрезмерному обдумыванию простых задач и недостаточному обдумыванию более сложных. Мы представляем Route-and-Generate (Rouge), иерархическую обучающую структуру, которая позволяет...
ENSoft Ontology Priors over Latent Concept Posteriors for Weakly Supervised Neuro-Symbolic Learning
arXiv:2610.30391v1 Announce Type: new Abstract: Neuro-symbolic (NeSy) predictors that supervise only the task label suffer from reasoning shortcuts: distinct concept mappings achieve the same maximum likelihood, leaving the recovered concepts unidentifiable and unsafe for…