Материал агрегирован из первоисточника:

arXiv — cs.AI

Материал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию

Заголовок на английскомSelf-Propagating Misalignment in LLM Agents, and Why Auditing or Disabling Memory Is Not Enough

Memory poisoning attacks on LLM agents typically assume an external adversary who plants content in the agent's persistent memory to steer its behavior. We instead study, with no adversary involved, whether a misaligned agent can write a goal it cannot yet act on to persistent…

arXiv — cs.AIАвтор: Debeshee Das, Jacqueline Tay, Bruce Tsai, David Huang, Javier Rando6 октября 2026 г. (6 окт.)

Доступно на 1 языках

Кратко от AI: Главные тезисы

Memory poisoning attacks on LLM agents typically assume an external adversary who plants content in the agent's persistent memory to steer its behavior
We instead study, with no adversary involved, whether a misaligned agent can write a goal it cannot yet act on to persistent…

Исследования

KZ·AI EC29

Инсайт дня

Self-Propagating Misalignment in LLM Agents, and Why Auditing or Disabling Memory Is Not Enough

Теги:#arXiv

Похожие материалы

Исследования #Google DeepMind #OpenAI1 мин

Сэм Альтман раскрывает окончательный план OpenAI (это безумие)

Сэм Алман, генеральный директор OpenAI, компании, стоящей за ChatGpt, только что сказал своим сотрудникам, что вся эта гонка ИИ может закончиться только тремя способами. И одним из таких финалов является то, что одна компания становится настолько могущественной, что может буквально расплавить графические процессоры всех остальных. Это не…

YouTube — The AI Grid20 окт.

Стартапы

KZ·AI E280

Стартап Electric Plant создает ИИ для общения с растениями

Стартапы #Венчур и Инвестиции1 мин