arXiv:2611.08811v1 Announce Type: new Abstract: Large Reasoning Models (LRMs) are one of the key components of current agentic systems. LRMs augment their output with an explicit chain-of-thought reasoning stage, introducing a new attack surface for thought injection, in which untrusted text resembling the model's own deliberation is fed back to the model. We present a two-part study of this attack, performed against the prevailing large, production class open-weight models (e.g., GLM-5.3, MiniMax-M2.5, Qwen3.8-Flash-Next). We first evaluate the effectiveness of static thought-injection prompts under different styles as well as tagged and untagged conditions and find that the effects of thinking tags and payload styles are all properties of the specific target model. In the second study, we exploit this model-specificity in a containerized agentic cyber range, using indirect injection prompts styled in the form of the target model's own reasoning traces to achieve attack success rates (ASR) up to 50% on operational objectives such as reverse-shell exfiltration and repository backdooring. We also find that the same malicious objective in standard prompt injection user voice never succeeds, and thinking tags suppress the agent's tendency to disclose the injection. Our results show that imitating a reasoning model's own thought style is effective for this style of attack, and that tag stripping is an unreliable defense.
Я мыслю, следовательно, я атакую: Оценка атак внедрения мыслей на рассуждающих агентов
arXiv:2611.08811v1 Тип объявления: новый Абстракт: Большие модели рассуждений (LRM) являются ключевыми компонентами современных агентных систем. LRM дополняют свой вывод явным этапом цепочки рассуждений, вводя новую поверхность атаки для внедрения мыслей, в которой…
Кратко от AI: Главные тезисы
- arXiv:2611.08811v1 Тип объявления: новый Абстракт: Большие модели рассуждений (LRM) являются ключевыми компонентами современных агентных систем
- LRM дополняют свой вывод явным этапом цепочки рассуждений, вводя новую поверхность атаки для внедрения мыслей, в которой…
Я мыслю, следовательно, я атакую: Оценка атак внедрения мыслей на рассуждающих агентов
Похожие материалы
Ripple-65B Preview: модель для агентного кодинга
🌟 Ripple-65B Preview: модель для агентного кодинга Ricursive Intelligence выпустила в открытое превью модель агентного программирования на 65 млрд параметров, ориентированную на скорость ответов. Компания основана Анной Голди и Азалией Мирхосейни, бывшими исследователи Google…
Платформа FLEX учит роботов понимать скрытые намерения человека
MIT представил платформу FLEX: роботы учатся понимать скрытые намерения человека и обобщать команды на основе языковой модели.
ТОП ИИ-новостей недели
📌 ТОП ИИ-новостей недели 🔊 ElevenLabs Sound Effects v3 — генерирует звуки по описанию: от шагов и взрывов до атмосферного фона. 🎨 OpenAI Images 2.6 — создаёт GIF-анимации, быстрее генерирует изображения и точнее редактирует готовые картинки. 🎬 Gemini Omni 1.2 Flash —…
К самообучению LLM в условиях дефицита данных: Эффективность, Обобщающая способность и Надежность
arXiv:2611.08908v1 Тип объявления: новый Абстракт: Быстрое развитие больших языковых моделей (LLM) во многом было обусловлено увеличением размера модели и человечески отобранными обучающими данными, однако эта парадигма все больше ограничивается дефицитом данных и убывающей отдачей от человеческого…