☄️ Anthropic әлемнің түкпір-түкпірінен келген хакерлердің Клодты қаруға қалай айналдырмақ болғанын ашты Anthropic Клодқа қиянат жасау әрекеттері туралы бүгінгі күнге дейін ең егжей-тегжейлі есепті жариялады - соңғы сегіз айда компания AI-ны зиян үшін қолдануға тырысқан ондаған операцияларды анықтады және тоқтатты: кибершабуылдар мен бақылаудан қару әзірлеуге дейін. ✏️Әр іс тоқтатылды, ал алынған сабақтар қорғанысты күшейту үшін қолданылды; қажет болған жағдайда Anthropic деректерді билік органдарымен және басқа AI компанияларымен бөлісті. Компания бұл әдеттегі жағдайлар емес, тіркелген теріс пайдаланудың ең күрделі әрекеттері екенін атап өтеді - олар AI қаупі индустриясы қайда бара жатқанын, қорғаныс қай жерде жұмыс істейтінін және оны қай жерде күшейту керек екенін көрсету үшін және басқа платформалар ұқсас әрекетті өздігінен тани алатындай етіп жариялайды. Есептің ішінде не бар: 🔴 Кибершабуылдар - AI агенттері арқылы ресейлік мемлекеттік хакерлер тобы автоматтандырылған тыңшылық; қаржылық ынталы хакерлер (соның ішінде ShinyHunters-пен байланысты) компанияларды жаппай бұзып, ақша бопсалаған; Қытайлық студенттер нөлдік күндік осалдықтарды өздері іздеген AI агенттерінің көмегімен толыққанды тыңшылық операциясын жүргізді. Жеке бизнес ретінде AI қолжетімділігін ұрлау - қылмыскерлер AI үлгілеріне кіру кілттерін іздейді, оларды қайта сатады және өздерінің есептеу күштерінің орнына пайдаланады; Бір актер әлі шығарылмаған Клод моделіне қол жеткізуге бір ай бойы сәтсіз әрекет жасады.🔴 Ақпараттық операциялар — Ресей, Иран және басқа да мемлекеттік үгіт-насихат ұйымдары Клодты жалған жаңалықтар желілерін, мыңдаған жалған аккаунттар құру үшін пайдаланды, тіпті оның Иранның ішіндегі коммерциялық белсендінің дауысы мен мәтінін клондады. Иран мен Парсы шығанағындағы пайдаланушыларды профильдейтін шпиондық платформалар, Мали үкіметінің жүйесіне 25 миллион SIM картасының деректерін ұстайды және Қытайдың ұйғырларға, тибеттіктерге және фалунгун практиктеріне бақылау операциялары. Ресейде және Қытайда электронды соғыс пен әуе шабуылына қарсы қорғаныс бағдарламалық құралын жасау.🔴 Биологиялық тәуекелдер - зерттеушілер чикунгунья вирусымен, құс тұмауымен және ортопоксвирустармен жұмыс істеуге көмектесу үшін қорғанысты айналып өтуге тырысты - кейбір жағдайларда азаматтық гранттарды жамылып, бірақ әскери институционалдық сілтемелермен. Клод AI-тұлғалары өздерін шынайы адамдар ретінде көрсете отырып, шынайы адамдармен хат жазысып тұрды.🔴 Модельдерді заңсыз айдау - Alibaba, Moonshot (Kimi), DeepSeek, Zhipu және Xiaomi өз үлгілерін үйрету үшін мыңдаған жалған аккаунттар арқылы Клодтың пайымдау деректерін жаппай ұрлады - кейбір компаниялар жасырын жауап бермей-ақ жауап берді. пайдаланушылар.#жаңалықтар#Антропикалық📷 BlueScreen | Сандық Ка