ИИ-агенттер зиянды нұсқауларды бір-біріне бере алады және деректерге қол жеткізуді аша алады

Жаза тайықшалар ИИ-агенттер арасындағы сенімді пайдалана отырып, зиянды нұсқауларды таратуға және жүйелерді жабық қызметтерге жүгінуге мәжбүрлеуге болады. Мұндай сценарийді тәуелсіз қауіпсіздік зерттеуші Сайед Анас Мохиуддин сипаттады, деп хабарлайды Ars Technica. ИИ-агенттер — бұл тапсырмаларды сыртқы құралдар арқылы орындай алатын бағдарламалар: мысалы, ақпаратты іздеу немесе дерекқорлармен жұмыс істеу. Мұндай құралдарды қосу үшін MCP протоколы пайдаланылады. Шбуыл зиянды нұсқаумен басталуы мүмкін, бұл нұсқау құжатта немесе басқа материалда жасырылған болуы мүмкін. Бір агент оны оқип, екіншісіне әдеттегі жұмыс тапсырмасы ретінде береді. Екіншісі біріншіге сенеді және жаза тайықшаның нұсқауын орындайды. Егер қосылған құрал дұрыс қорғалмаса, бұл серверді компанияның жабық ресурстарына жүгінуге мәжбүрлей алады. Нәтижесінде ішкі қызметтерге және құпия деректерге қол жеткізу қауіпі туындайды. Мохиуддиннің сөздері бойынша, ұқсас ашық аяқтар Google, JPMorgan Chase, Weaviate, француз цифрлық қызметі DINUM және Индонезияның Тангеранг қаласы әкімшілігі жобаларында расталды және жойылды. Зерттеуші АҚШ федералдық ведомстволарına арналған бес жүйедегі ықтимал мәселелер туралы да хабардар етті. Оның есебі жарияланған кезде бұл хабарламалар әлі тексерілуде болды. Ең ауыр қателердің бірі Google-дің дерекқорлармен жұмыс істеу құралында табылды. Оның қауіптілігі 10-дан 8 бағаланды. Сервер орнатылған мекен-жайларға өте алады және ішкі ресурстарға сұраулар жібере алады. Google мекен-жайларды тексеруді және қол жеткізу шектеулерін қосып, мәселені шетті. Rapid7 компаниясының құралында басқа қате табылды: тексерілмеген деректер қызметке сұрауларды өзгертуге мүмкіндік береді. Оны 10-дан 2,7 бағалayıп, сонымен қатар жойды. Бұған қарамастан, қате пайдаланылатын аккаунттың құқықтары шегінен тыс қол жеткізуді бермеді. Зерттеуші ИИ-агенттердің сұрауларын тексеруді және құралдардың ішкі ресурстарға қол жеткізуін шектеуді ұсынады. Дағды, егер нұсқау компания ішіндегі басқа бағдарлама берсе де, бұл оның қауіпсіз екендігін білдірмейді. Бұл жазба Курсив Медиа Қазақстан сайтында алғаш жарияланды.