Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки.
Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки. Компания NVIDIA выпустила бесплатный сканер SkillSpector, который анализирует навыки (skills), расширяющие возможности ИИ-агентов. Такие навыки позволяют нейросетям…
- 01.Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки
- 02.Компания NVIDIA выпустила бесплатный сканер SkillSpector, который анализирует навыки (skills), расширяющие возможности ИИ-агентов
- 03.Такие навыки позволяют нейросетям…
Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки. Компания NVIDIA выпустила бесплатный сканер SkillSpector, который анализирует навыки (skills), расширяющие возможности ИИ-агентов. Такие навыки позволяют нейросетям работать с файлами, управлять компьютером, запускать программы и взаимодействовать с внешними сервисами. Проблема в том, что вместе с полезными функциями агент может получить и вредоносные инструкции. По данным NVIDIA, среди 31 тысячи проверенных навыков 26,1% содержали уязвимости, а 5,2% — признаки вредоносного поведения. SkillSpector ищет скрытые команды, попытки похищения паролей и API-ключей, подозрительные участки кода и инструкции, способные заставить агента действовать против интересов пользователя. После проверки инструмент выставляет оценку риска от 0 до 100 и объясняет обнаруженные проблемы. Особенно опасно то, что ИИ-агенты могут выполнять подобные инструкции автоматически, имея доступ к личным данным, терминалу и другим инструментам. Чем больше самостоятельности получают ИИ-агенты, тем важнее становится вопрос: кому на самом деле принадлежат команды, которые они выполняют? Источник
Связанные материалы
Все материалы →SpaceX locks in $40B GPU financing deal with Apollo
SpaceX has locked in a binding commitment for roughly $40 billion in financing to pay for AI chips and related data center equipment, the company disclosed in a regulatory filing Monday. In a statement, SpaceX called it the “largest committed GPU financing” ever.
Но самое интересное из данных IPO Anthropic - то, что они привлекли в совокупности $141,1 млрд, а на их счетах до сих...
Но самое интересное из данных IPO Anthropic - то, что они привлекли в совокупности $141,1 млрд, а на их счетах до сих пор $131,7 млрд Получается, что за всю свою историю Anthropic потратила около $9,4 млрд, при этом всего за 3 года её выручка выросла с нуля до $16,3 млрд за…
NVIDIA Mission Control 2.5 улучшает автономное восстановление в Kubernetes
NVIDIA Mission Control 2.5 предлагает автономное восстановление для Kubernetes.