事实证明，人工智能代理的四分之一技能都是不安全的 - NVIDIA 推出了一个工具来检查它们。

Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки. Компания NVIDIA выпустила бесплатный сканер SkillSpector, который анализирует навыки (skills), расширяющие возможности ИИ-агентов. Такие навыки позволяют нейросетям работать с файлами, управлять компьютером, запускать программы и взаимодействовать с внешними сервисами. Проблема в том, что вместе с полезными функциями агент может получить и вредоносные инструкции. По данным NVIDIA, среди 31 тысячи проверенных навыков 26,1% содержали уязвимости, а 5,2% — признаки вредоносного поведения. SkillSpector ищет скрытые команды, попытки похищения паролей и API-ключей, подозрительные участки кода и инструкции, способные заставить агента действовать против интересов пользователя. После проверки инструмент выставляет оценку риска от 0 до 100 и объясняет обнаруженные проблемы. Особенно опасно то, что ИИ-агенты могут выполнять подобные инструкции автоматически, имея доступ к личным данным, терминалу и другим инструментам. Чем больше самостоятельности получают ИИ-агенты, тем важнее становится вопрос: кому на самом деле принадлежат команды, которые они выполняют? Источник