arXiv:2611.08834v1 Announce Type: new Abstract: Specialized prompt injection guards are deployed in front of document analysis systems, but no false positive rate has been published for any of them on legal contracts. We measure eleven open-weights guards on two corpora of legal contracts and find that existing guards struggle: document-level false positive rates are as high as 92.39%; two guards fall below chance on paired AUC; and a five-regex baseline is not Pareto-dominated by any guard in the panel. Controlled probes locate model-specific as well as general failure modes. Prompted LLMs resolve the tested failures, including a second threat category (unauthorized scope claims) on which every guard scores zero. A cascaded LLM solution, where the positives of a mid-tier model are verified by a frontier model, is 6.5x cheaper than using exclusively a frontier model and approaches its performance.
Керісіне қарамастан, Барлық Нұсқауларды Есепке Алмаңыз: Заңды Шарттарды Қайта Үзіндету Шабуылдарында Промпт-Инъекция Қорғауыштарын Өлшеу
arXiv:2611.08834v1 Хабарлама Түрі: жаңа Анотация: Арнаулы промпт-инъекция қорғауыштары құжат талдау жүйелерінің алдына орнатылған, бірақ заңды шарттарда олардың жалаң оң нәтижесі (false positive rate) жайлы ешқайсысы үшін де жарияланбаған. Біз заңды екі корпуста он бір ашық салмақтық қорғауышты өлшейміз.
AI қорытындысы: Басты тезистер
- arXiv:2611.08834v1 Хабарлама Түрі: жаңа Анотация: Арнаулы промпт-инъекция қорғауыштары құжат талдау жүйелерінің алдына орнатылған, бірақ заңды шарттарда олардың жалаң оң нәтижесі (false positive rate) жайлы ешқайсысы үшін де жарияланбаған
- Біз заңды екі корпуста он бір ашық салмақтық қорғауышты өлшейміз.
Керісіне қарамастан, Барлық Нұсқауларды Есепке Алмаңыз: Заңды Шарттарды Қайта Үзіндету Шабуылдарында Промпт-Инъекция Қорғауыштарын Өлшеу
Ұқсас материалдар
Ripple-65B Preview: агенттік кодтауға арналған модель
🌟 Ripple-65B Preview: агенттік кодтауға арналған модель. Ricursive Intelligence 65 миллиард параметрлі агенттік бағдарламалау моделін ашық превью ретінде шығardı, бұл модель жауап беру жылдамдығына бағытталған. Компания Анна Голди мен Азалия Мирхосейни тарапынан, бұрынғы Google зерттеушілерімен құрылған…
FLEX платформасы роботтарға адамның жасырын ниеттерін түсінуді үйретеді
MIT FLEX платформасын ұсынды: роботтар адамның жасырын ниеттерін түсінуді және тіл моделі негізінде командаларды обобществлеуді үйреніп жатыр.
Апталық ТОП ИИ-жаңалықтар
📌 Апталық ТОП ИИ-жаңалықтар 🔊 ElevenLabs Sound Effects v3 — сипаттама бойынша дыбыстарды генерациялайды: қадамдар мен жарылыстардан атмосфералық фонға дейін. 🎨 OpenAI Images 2.6 — GIF-анимациялар жасайды, суреттерді тезірек генерациялайды және дайын суреттерді дәлдеп өңдейді. 🎬 Gemini Omni 1.2 Flash —…
Деректер жетіспеушілігі шарттарында LLM-нің өз-оқытуына қарай: Тиімділік, Жалпылау қабілеті және Сенімділік
arXiv:2611.08908v1 Хабарлама түрі: жаңа Анотация: Үлкен тілдік модельдердің (LLM) тез дамуы негізінен модель өлшемін арттыру және адамдармен жиналған оқыту деректері арқылы қамтамасыз етілген, бірақ бұл парадигма деректер жетіспеушілігі мен адамдардан…