arXiv:2611.08834v1 Announce Type: new Abstract: Specialized prompt injection guards are deployed in front of document analysis systems, but no false positive rate has been published for any of them on legal contracts. We measure eleven open-weights guards on two corpora of legal contracts and find that existing guards struggle: document-level false positive rates are as high as 92.39%; two guards fall below chance on paired AUC; and a five-regex baseline is not Pareto-dominated by any guard in the panel. Controlled probes locate model-specific as well as general failure modes. Prompted LLMs resolve the tested failures, including a second threat category (unauthorized scope claims) on which every guard scores zero. A cascaded LLM solution, where the positives of a mid-tier model are verified by a frontier model, is 6.5x cheaper than using exclusively a frontier model and approaches its performance.
Research1 分钟阅读
尽管有相反规定,忽略所有指令:衡量法律合同审查攻击中的提示注入防护措施
arXiv:2611.08834v1 通告类型:新 摘要:专门的提示注入防护措施部署在文档分析系统前端,但尚未发布任何此类防护在法律合同上的假阳性率。我们在两个法律语料库上测量了十一项开放权重防护措施……
arXiv — cs.AI作者: Mark Heimann, Katherine Taylor, Bruno Jacob2026年11月9日 (2小时前)
提供 4 种语言版本AI 摘要:要点
- arXiv:2611.08834v1 通告类型:新 摘要:专门的提示注入防护措施部署在文档分析系统前端,但尚未发布任何此类防护在法律合同上的假阳性率。我们在两个法律语料库上测量了十一项开放权重防护措施……
Research
KZ·AI C87CИнсайт дня
尽管有相反规定,忽略所有指令:衡量法律合同审查攻击中的提示注入防护措施
全文为英语
内容来自原始来源: arXiv — cs.AI
查看原文查看原文
相关文章
Ripple-65B Preview:面向智能体编程的模型
🌟 Ripple-65B Preview:面向智能体编程的模型。Recursive Intelligence 发布了一个拥有 650 亿参数的智能体编程模型的开放预览版,专注于响应速度。该公司由前 Google 研究员 Anna Goldie 和 Azalia Mirhoseini 创立……
Telegram — AI Machine Learning Big Data
SMNTCN (Semanticon) — глобальные новости ИИ
本周AI热门新闻榜
📌 本周AI热门新闻榜 🔊 ElevenLabs Sound Effects v3 — 根据描述生成声音:从脚步声、爆炸声到环境背景音。 🎨 OpenAI Images 2.6 — 创建GIF动画,图像生成更快,编辑现有图像更精准。 🎬 Gemini Omni 1.2 Flash —…
Telegram — GPT Time | Нейросети | ИИ
面向数据稀缺条件下的LLM自我博弈:有效性、泛化能力与可信度
arXiv:2611.08908v1 公告类型:新 摘要:大语言模型(LLM)的快速发展主要得益于模型规模扩大和人工策划的训练数据,但这一范式正日益受到数据稀缺和人工收益递减的制约…
arXiv — cs.AI