Соңғы шабуылдар компанияларды жауапкершілікке тартуға қатысты заңның артта қалғанын көрсетті. MIT Technology Review түсіндіреді: Біздің жазушыларға алдағы уақытта не болатынын түсінуге көмектесу үшін технологияның күрделі, беймаза әлемін ашуға мүмкіндік беріңіз. Сериядан толығырақ мына жерден оқи аласыз. Соңғы бірнеше айда AI агенттерінің кибершабуылдарының каскады әлемді таң қалдырды. Шілде айында OpenAI өзінің агенттерінің тобы құмсалғыштан құтылып, киберқауіпсіздік сынағы бойынша алдау үшін Hugging Face AI платформасына кіріп кеткенін жариялады. Жақында сыртқы зерттеушілер OpenAI агенттерінің тест жауаптарымен бөлісу үшін мамыр айында неміс вики-сайты мен RubyGems кодтау платформасын басып алғанын анықтады. Осы айдың басында Anthropic өзінің моделі Клод киберқауіпсіздік жаттығулары кезінде үшінші тарап жүйелеріне шабуыл жасаған төрт оқиғаны ашты. Өткен аптада Google өзінің Gemini моделінің басқа компанияларды да бұзғанын растады. OpenAI веб-сайтының ұрлануын ашқан зерттеуші осыған ұқсас ашылмаған эпизодтар болуы мүмкін деп ескертті. Көптеген адамдар AI агенттері жүйеге кіру үшін құм жәшіктерді айналып өтетін басқа, мүмкін одан да қауіпті оқиға болғанша бұл уақыт мәселесі дейді. Сондықтан үлкен сұрақ: компаниялар AI агенттерін бақылауды жоғалтқанда, біз оларды қалай жауапкершілікке тартамыз? OpenAI неміс вики оқиғасын немесе RubyGems оқиғасын сыртқы зерттеушілер тобы ашқанға дейін ашпады және Hugging Face хаккінің кейбір маңызды мәліметтерін әлі ашпады. Бұл ненің дұрыс емес екенін және оның қайталануын қалай болдырмау керектігін түсінуді шектейді. Бірақ сіз OpenAI-ге бұл оқиғаларды жария ету заңды түрде талап етілмейтінін білгенде таң қалуыңыз мүмкін. (OpenAI түсініктеме беру сұрауына жауап бермеді.) Калифорнияның SB 53, Нью-Йорктің RAISE заңы және Иллинойстың SB 315 сияқты AI ашықтығы туралы заңдар AI әзірлеушілерінен «қауіпсіздіктің маңызды оқиғалары» туралы хабарлауды талап етеді. Бұл 50-ден астам адамның өліміне немесе дене жарақатына немесе 1 миллиард доллар шығынға әкелетін оқиғалар ретінде анықталады. Олар сондай-ақ модель апатты тәуекелдерді елеулі түрде арттыратын әдіспен бағалаудан тыс әзірлеушілерді алдайтын оқиғаларды қамтиды. Физикалық зақымдану немесе апатты тәуекелдер шегіне сәйкес келмейтін көптеген киберқауіпсіздік оқиғалары мұндай апаттардың қауіпті прекурсорлары болуы мүмкін және қолданыстағы заңдар мұны ескермейді. «Жақында болған оқиғалар заңның неге дайын емес екендігінің тамаша мысалы», - дейді Маккензи Арнольд, заң және AI институтының АҚШ саясаты жөніндегі басқарушы директоры. «Тек ең нашар, ең қорқынышты, бірден зиянды заттар ғана жарамды болады». Қолданыстағы AI заңдары бойынша апат туралы ақпаратты талап етуге құқығы жоқ, үкіметтер басқа заңдардан тергеу органдарын қарызға алады немесе компанияларды сотқа береді, бұл қымбат процесс жылдарға созылуы мүмкін. Алабама университетінің заң факультетінің заң профессоры Йонатан Арбел: «Әдетте, құшақтасып жатқан бет оқиғасы сияқты бірдеңе сотқа берілуі керек еді», - дейді. «Сонда бізде жаңалық ашылады және бізде барлық ақпарат шығатын сот ісін жүргізуден алатын барлық әсерлер болады». Бірақ әзірге Hugging Face OpenAI-ді сотқа бермеуді жөн көрді. Hugging Face компаниясының бас директоры Клемент Деланге оның мұны істеуге ресурстары жоқ екенін айтады (оның орнына ол OpenAI-дан есептеу үшін 100 миллион доллар сұрады). Деланг CNN-ге шілде айының соңында берген сұхбатында сот ісін жүргізбеуді таңдау OpenAI-ді жауапқа тарту керек деп ойламайды дегенді білдірмеу керектігін айтты. "Әркім бұл кибершабуыл қылмыс екенін есте ұстауы керек. Бұл заңсыз. Және біз мұндай оқиғалардың жиі болып кетпеуінің жолын табуымыз керек", - деді ол. Құшақтап тұрған жүз түсініктеме беру сұрауына жауап бермеді. Сот ісін жүргізудің жаңа заңнаманы күтудің орнына, AI қауіпсіздігінің инциденттерін шешу үшін соттарды қолданыстағы заңдарды қолдануға итермелеудің пайдасы бар. Айқын жолдардың бірі - деликттік құқық, бұл адамдарға және бизнеске оларға зиян келтіргендерді сотқа беруге мүмкіндік беретін азаматтық құқықтың жиынтығы. Бұл көбінесе компанияларды олар келтірген жаппай зиян үшін жауапкершілікке тарту үшін қолданылады, мысалы, 2019 жылы отбасылар жүздеген адамның өмірін қиған екі ұшақ апаты үшін Boeing компаниясын сотқа берген кезде немесе штаттар мен қалалар опиоидтық дағдарыстар үшін Purdue Pharma компаниясын сотқа беріп, миллиардтаған тұратын елді мекендерді өндіріп алған. Хьюстон университетінің заң орталығының заң профессоры Габриэль Вайл: «OpenAI күшті құмсалғышты қолданып, көбірек бақылау жасауы керек еді деген немқұрайлылық туралы дәлелді негіз бар», - дейді. Мысалы, OpenAI қызметкерлері агенттер жасаған жасырын хабарлар тақтасын тапқан кезде, олар өз тұжырымдарын қауіпсіздік және қауіпсіздік топтарына жедел жеткізуі мүмкін еді. Агенттердің интернетке қол жеткізе алмайтындығына көз жеткізу үшін компания құм жәшігін жақсырақ жобалаған болар еді. Бірақ OpenAI құшақтайтын жүзді бұзуға қатысты сот ісін аяқтамаса да, жауапкершілік қаупі AI зертханаларын заңмен талап етілгеннен гөрі сақтық танытуға итермелеуі мүмкін. OpenAI қайтыс болғаннан кейін модельдерді қамту және бақылау, модельді теңестіруді жеделдету және оқиғаларды анықтау және жою процестерін жақсарту үшін қолданылатын қауіпсіздік шараларын күшейтуді жоспарлап отырғанын хабарлады. «Шекаралық зертханалардың киберқауіпсіздік шабуылдарының көптігі туындаған жауапкершілік сұрақтары жауапкершілікті күту олардың болашақтағы әрекеттері үшін тудыратын ынталандыруларға дейін қайнатылады», - дейді Вайл. «Сондықтан менің ойымша, бұл нақты жағдайда ставкалар өте төмен болса да, бұл ережелерді дұрыс қабылдау маңызды». Жауап алудың және OpenAI жауапты болуын анықтаудың бір жолы - ақпаратты ашуға мәжбүрлеу. Бірақ штаттың AI заңдары - Калифорнияның SB 53, Нью-Йорктің RAISE заңы және Иллинойстың 315 - үкіметтерге жақында болған оқиғалар сияқты оқиғаларды тергеуге өкілеттік бермейді. Алайда, қоғамдық дабыл ұлғайып тұрған тұста, бас прокурорлар басқа заңдардан тергеу өкілеттіктерін алуда. Алабама, Монтана және 15 басқа штаттар мен Калифорниядан тұратын коалиция компанияның тәжірибесі тұтынушылардың құқықтарын қорғау туралы мемлекеттік заңдарды бұзған-бұзбағанын түсіну үшін OpenAI-дан оқиға туралы ақпаратты талап етеді. Конгресс мүшелері де өз зерттеулерін бастайды. Сенатор Джош Хоули осы айдың басында Сенат тергеуін ашып, OpenAI-ге оқиға және компанияның ішкі саясаты туралы сұрақтар тізімін құжат сұрауымен бірге жіберді, ал бір топ демократтар OpenAI және Anthropic-тен оқиғалар журналдарын шығаруды сұрады. АҚШ-тың AI саясаты бойынша сарапшысы Арнольд: «Біреу тергеу керек, бірақ өкінішке орай, мұны істеу үшін өздерінің бар өкілеттіктерінің шығармашылық интерпретацияларына сенуі керек бас прокурорлардың жұмысы болды». Тұтынушылардың құқықтарын қорғау туралы заңдар бағдарламалық жасақтамаға бақылауды жоғалтқан компанияларды емес, тұтынушыларын алдап жүрген компанияларды ұстау үшін жазылған. Штаттың бас прокурорлары OpenAI тұтынушыларды алдағанын немесе әділетсіз зиян келтіргенін көрсетуі керек еді, бірақ бұзу мұндай әрекетке қатысы бар-жоғы белгісіз. Және «бұл [тұтынушылардың құқықтарын қорғау] заңдар AI киберқауіпсіздік оқиғасын мұқият зерттеу үшін жасалмаған», - дейді Арнольд. Олар тергеушілерге модельдің жеткілікті түрде қамтылғанын немесе компанияның қауіпсіздік тәжірибесі дұрыс екенін анықтауға көмектесу үшін жасалмаған. «Бұл жұмыс үшін дұрыс құрал емес», - дейді Арбел. «Дұрыс құрал қылмыстық тергеу сияқты нәрсе болар еді» — компьютерлік алаяқтық және теріс пайдалану туралы заң (CFAA) сияқты бұзу заңына сәйкес. CFAA бойынша басқа компанияның компьютерлік жүйелеріне рұқсатсыз кіру қылмыс болып табылады. Бірақ жауапкершілікке тартылу үшін хакер рұқсатсыз компьютерді бұзуды көздеген болуы керек. Ниет ақыл-ойдың жай-күйін талап етеді және ешбір сот AI агенттерінде бар деп шешкен жоқ. Мұндай прецедент болмаса, соттың AI агенттері хакерлік шабуыл жасады деген шешім шығаруы екіталай. AI компанияларын бақылаудың бір жолы - сыртқы аудиторларға мандат беру. Hugging Face хаккінен кейін OpenAI оқиғаны тексеру үшін AI қауіпсіздігі бойынша METR және Redwood Research коммерциялық емес ұйымдарының зерттеушілерін шақырды. Дегенмен, ол бұзуларға әкелген үлгіге қол жеткізуді шектеді, компанияның қауіпсіздік және қауіпсіздік тәжірибесін ашпады, тергеу ұзақтығын шектеді және зерттеушілер жариялай алатын нәрселер туралы түпкілікті пікірге ие болды. Біз әлі мамыр айында шабуылды не қозғағанын және агенттердің әрекетін байқаған OpenAI қызметкерлерінің қауіпсіздік пен қауіпсіздік көшбасшыларына ешқашан көтерілмегенін әлі білмейміз. Мұндай келісімде ішкі шиеленіс бар: заңды өкілеттігі жоқ аудитор зертханалардың үздіксіз қол жеткізуге деген ізгі ниетіне байланысты, яғни ол зертханаларды олардың қарым-қатынасына қауіп төндірмей тексеруі керек дегенді білдіреді. Өткен аптада Anthropic компания Accenture-ді өз үлгілерін бағалау үшін ендірілген бағалаушы ретінде жалдайтынын хабарлады. Anthropic бас директоры Дарио Амодей эсседе шекаралық AI зертханалары «қауіпсіздік практикасы мен міндеттемелердің сақталуын тексеру, инциденттер туралы хабарлау және жай ғана аяқталған AI процестерін бағалауға көмектесетін ендірілген үшінші тарап бағалаушылар тобына (мысалы, METR) «қызметкерлерге тұрақты қолжетімділік» беруі керек деп жазды. Қолданыстағы AI заңдарының көпшілігі зертханалардан сыртқы аудиторды жалдауды талап етпейді. Калифорнияның SB 53 және Нью-Йорктің RAISE заңы AI компанияларынан өздерінің модельдерін қауіпті мүмкіндіктерге қалай сынайтынын сипаттайтын қауіпсіздік құрылымын жариялауды, содан кейін оны орындауды талап етеді. Фреймворктарды компаниялар жазады және тестілеуді іштей жүргізуге болады. Тек Иллинойс штатының SB 315 стандарты компаниялардан 2028 жылдан бастап жыл сайынғы үшінші тарап аудитінен өтуді талап етеді. «Бұл компаниялар үшін тек есеп беру талаптарын ғана емес, сонымен қатар сыртқы органдардың тексеруін де арттыру үшін көп мүмкіндік бар», - дейді Хьюстон университетінің заң орталығының заң профессоры Питер Салиб. Бұл шолушылар үкіметте аккредиттелген, бірақ AI компаниялары таңдаған және төлейтін жеке аудиторлар болуы мүмкін. Немесе олар мемлекеттік органдар немесе сақтандыру компаниялары болуы мүмкін. Бұлардың ешқайсысы апат емес. AI компанияларын агенттік кибершабуылдар үшін жауапқа тарта алмаған кітаптар туралы заңдар AI индустриясының қатал лоббиі жағдайында пайда болды. SB 1047, Калифорния губернаторы Гэвин Ньюом 2024 жылы OpenAI, Meta, Anthropic және венчурлық капитал фирмасы Andreessen Horowitz лоббисінен кейін вето қойған Калифорнияның AI заң жобасы әлдеқайда қатаң ережелер жинағын ұсынды. Ол AI компанияларынан қауіпсіздік инциденттерінің кеңірек жинағын (соның ішінде модель өздігінен әрекет ететін немесе басқару элементтерін бұзатын оқиғаларды) хабарлауды, үшінші тараптың жыл сайынғы аудиттерінен өтуді және өшіру қосқышын ұстауды талап етеді. Бірақ бір жылдық қарқынды келіссөздерден кейін Newsom SB 53-ке қол қойды, ол есеп беруге болатын оқиғалардың түрлерін қысқартты және аудиттер мен өшіргіштерге қойылатын талаптарды алып тастады. Нью-Йорктің RAISE актісі де сол доғадан кейін жүрді. «Нью-Йорк заң шығарушы органы қабылдаған RAISE заңының нұсқасы осы «оқиғаны» ашуды талап ететін еді», - деп жазды Нью-Йорк штатының ассамблеясының мүшесі, заң жобасына демеушілік жасаған Алекс Борес X. Нью-Йорктің бастапқы заң жобасында үшінші тарап аудиті де қамтылған. Саяси қысымның күшеюімен AI дамуы үшін жақсырақ есеп беру, аудит және жауапкершілік режимдерін жасайтын жаңа заң жобалары күтілуде. Конгрессте AI инциденттері туралы есеп беру заңы AI компанияларынан модель адам бақылауынан жалтарса немесе жүйені бұзса, тіпті ол ешқандай зиян келтірмесе де, Коммерция департаментіне есеп беруді талап етеді. Шекара туралы заң инциденттер туралы есеп беруді және тәуелсіз аудиттерді талап етеді. Нью-Йоркте Борес демеушілік жасаған «Жасанды интеллект туралы түсінік» заңы модель адам жасаған әрекеті қиянат немесе қылмыс болған жағдайда компанияларды жауапкершілікке тартады. Жасанды интеллект агенттері кибершабуыл жасауда барған сайын жақсырақ болғандықтан, заң артта қалды. Алшақтықты жою заң шығарушылардан келесі үзіліске қарағанда жылдамырақ қозғалуды талап етеді. Роуз Вонг салған иллюстрация