Google компаниясының Gemini компаниясы басқарылмайтын AI модельдерінің қатарына қосылды. Ол сынақ ортасынан шығып, желіге кіріп, үш нақты компанияға кибершабуыл жасады. Осыған ұқсас оқиғалар бірнеше басқа AI әзірлеушілерінің бағдарламаларында орын алған, деп хабарлайды Tengri Life ABC News-ке сілтеме жасап. Оқиға мамыр айында тәуелсіз Irregular компаниясы ұйымдастырған жаттығу кезінде болды және Google AI-ның автономды бұзуының алғашқы белгілі оқиғасы болды. Google қауіпсіздік жөніндегі вице-президенті Хизер Адкинстің айтуынша, модель нақты ұйымдарға қол жеткізгенін түсінген кезде барлық үш эпизодта жұмысын тоқтатқан. "Біз үш ұйымның да тестілеу процестеріне енгізген өзгерістері туралы хабардар болғанына көз жеткізіп, оқу жөніндегі серіктесімізбен бірге жұмыс істедік. Бұл әзірлемелер қуатты AI үлгілерін жауапкершілікпен әрекет етуге үйретудің маңыздылығын көрсетеді", - деді Адкинс. Ешкімге зиян келмегендіктен компания ақпаратты ертерек жариялауды қажет етпеді. Irregular инфрақұрылымындағы «жалауды басып алу» жаттығуының бөлігі ретінде модельдерге жалған компанияның бағдарламалық жасақтамасынан деректерді алу тапсырылды.
. Irregular-дың айтуынша, Интернетке кіру байқаусызда жасалған және сынақ компаниясының аты нақты компанияның атымен сәйкес келген. Бір жағдайда, Gemini дөрекі түрде мәжбүрлі құпия сөздер; екі жағдайда ол жалпыға қолжетімді репозиторийдің тіркелгі деректерін пайдаланды, деп жазады WSJ. Бірқатар оқиғалар AI автономиясының артуына байланысты қауіпсіздік шараларын талап етті. Шілде айында 1000-нан астам технологиялық қызметкер ең озық жүйелердің дамуын үйлестірілген баяулатуға шақырған Pacing the Frontier петициясына (Meta, Anthropic, OpenAI және Alphabet қызметкерлері) қол қойды. Бірақ AI алпауыттары сөз байласу бойынша айыпталып, сотқа берді.
