AI агенттері үшін әрбір төртінші дағды қауіпті болып шықты - NVIDIA оларды тексеру құралын ұсынды.
AI агенттері үшін әрбір төртінші дағды қауіпті болып шықты - NVIDIA оларды тексеру құралын ұсынды. NVIDIA AI агенттерінің мүмкіндіктерін жақсартатын дағдыларды талдайтын тегін SkillSpector сканерін шығарды. Мұндай дағдылар нейрондық желілерге мүмкіндік береді...
- 01.AI агенттері үшін әрбір төртінші дағды қауіпті болып шықты - NVIDIA оларды тексеру құралын ұсынды
- 02.NVIDIA AI агенттерінің мүмкіндіктерін жақсартатын дағдыларды талдайтын тегін SkillSpector сканерін шығарды
- 03.Мұндай дағдылар нейрондық желілерге мүмкіндік береді...
Каждый четвёртый навык для ИИ-агентов оказался небезопасным — NVIDIA представила инструмент для их проверки. Компания NVIDIA выпустила бесплатный сканер SkillSpector, который анализирует навыки (skills), расширяющие возможности ИИ-агентов. Такие навыки позволяют нейросетям работать с файлами, управлять компьютером, запускать программы и взаимодействовать с внешними сервисами. Проблема в том, что вместе с полезными функциями агент может получить и вредоносные инструкции. По данным NVIDIA, среди 31 тысячи проверенных навыков 26,1% содержали уязвимости, а 5,2% — признаки вредоносного поведения. SkillSpector ищет скрытые команды, попытки похищения паролей и API-ключей, подозрительные участки кода и инструкции, способные заставить агента действовать против интересов пользователя. После проверки инструмент выставляет оценку риска от 0 до 100 и объясняет обнаруженные проблемы. Особенно опасно то, что ИИ-агенты могут выполнять подобные инструкции автоматически, имея доступ к личным данным, терминалу и другим инструментам. Чем больше самостоятельности получают ИИ-агенты, тем важнее становится вопрос: кому на самом деле принадлежат команды, которые они выполняют? Источник
Байланысты материалдар
Барлығы →SpaceX locks in $40B GPU financing deal with Apollo
SpaceX has locked in a binding commitment for roughly $40 billion in financing to pay for AI chips and related data center equipment, the company disclosed in a regulatory filing Monday. In a statement, SpaceX called it the “largest committed GPU financing” ever.
Бірақ Anthropic компаниясының IPO деректері туралы ең қызықты нәрсе, олар жалпы $141,1 млрд жинады және олар әлі де бар ...
Бірақ Anthropic компаниясының IPO деректері туралы ең қызықты нәрсе, олар жалпы $141,1 млрд жинады және олардың шоттарында әлі $131,7 млрд бар. Антропик өз тарихында шамамен 9,4 миллиард доллар жұмсаған, ал бар болғаны 3 жыл ішінде оның кірісі нөлден 16,3 миллиард долларға дейін өскені белгілі болды...
NVIDIA Mission Control 2.5 Kubernetes жүйесінде желіден тыс қалпына келтіруді жақсартады
NVIDIA Mission Control 2.5 Kubernetes үшін желіден тыс қалпына келтіруді ұсынады.