Материал агрегирован из первоисточника:
arXiv — cs.AI
Читать полностью в arXiv — cs.AIМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
Разъяснение — это не исправление: студенты LLM не могут отпустить ситуацию
Сбои диалога в языковых моделях обычно объясняются сбоями в памяти: слишком длинный контекст, потери в кратком изложении, забытое ограничение. Мы утверждаем, что это упускает из виду более глубокую проблему: во многих разговорах модель не забывает, она совершает действия слишком рано. Неоднозначный ранний поворот рушится…
Кратко от AI: Главные тезисы
- Сбои диалога в языковых моделях обычно объясняются сбоями в памяти: слишком длинный контекст, потери в кратком изложении, забытое ограничение
- Мы утверждаем, что это упускает из виду более глубокую проблему: во многих разговорах модель не забывает, она совершает действия слишком рано
- Неоднозначный ранний поворот рушится…
Разъяснение — это не исправление: студенты LLM не могут отпустить ситуацию
Похожие материалы
Судья отклонил иск сестры Сэма Альтмана о сексуальном насилии
Во вторник окружной судья США Закари Блюстоун отклонил иск, поданный Энн Альтман в прошлом году, утверждая, что ее брат, генеральный директор OpenAI Сэм Альтман, подвергал ее сексуальному насилию на протяжении всего ее детства. Как ранее сообщало The Guardian, судья написала, что за последний год Энн...
ENAnthropic pitches AI safety bill that may block a model if 50+ people could be killed
The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model's release without the permission of a judge.
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
ENAnthropic’s cloud partnerships are getting messy
Anthropic is reportedly struggling to secure enough compute from cloud providers that increasingly view it as a competitor, even as its infrastructure spending balloons ahead of a planned November IPO.