通过表示几何正则化缓解LLM自我改进中的能力退化

arXiv:2610.12855v1 发布类型：new 摘要：On-Policy Self-distillation（在线策略自蒸馏）是一种自我改进范式，它允许大语言模型（LLM）通过在不同条件上下文中将同一模型同时作为教师和学生来提升其能力。

Jiaqi Tian, Ting Long·arXiv — cs.AI

Key Takeaways

01.arXiv:2610.12855v1 发布类型：new 摘要：On-Policy Self-distillation（在线策略自蒸馏）是一种自我改进范式，它允许大语言模型（LLM）通过在不同条件上下文中将同一模型同时作为教师和学生来提升其能力。

This material is provided as an extended analytical summary.

Aggregated within AI Qazaqstan national intelligence stream with author attribution.

Исследования1 мин

OpenAI 发布了 GPT-6.1 Terra，这是一款中端模型，与前身相比，API 价格降低了一半。分析师表示，它为每美元的智能设定了新标准，特别是对于日常计算任务和人工智能驱动的计算机控制。文章 GPT-6.1 Terra...

The Decoder10月26日

Исследования1 мин

在 Sullivan & Cromwell LLP，John Savva 使用 Codex 围绕公司的法律专业知识构建工具。协议分析器汇集了协议草案、选定的先例和反映公司和客户立场的行动手册。它识别潜在问题并返回...

YouTube — OpenAI Official10月26日

Исследования1 мин

“我们看到 Astra 实际上比我们在两个方面测试过的任何其他型号都显示出超过两位数的增益。” Hebbia 的 Kavita Anand 指出了这两个因素：选择正确的来源和生成 PowerPoint 演示文稿。对于在拥有数千个数据室的银行家或投资者来说……

YouTube — OpenAI Official10月26日