Басты бет / Жаңалықтар Бразилияда 36 жастағы фермер бірнеше апта бойы ChatGPT-ке сегіз жасар ұлынан құтылып, басқа адамдарға зиян келтіру ниеті туралы жазған соң ұсталды. OpenAI бұл ақпаратты ФБР-ға берді, ал АҚШ билігі Бразилия полициясын хабардар етті. Ер адамның өзі ешкімге зиян тигізу ниетін жоққа шығарады және оған әлі айып тағылған жоқ, деп жазады Digital Business. Бұл оқиғаны BBC Бразилия қызметі сипаттады. Басылымның мәліметінше, бұл AI әзірлеушісінің сигналы полицияның тексеруіне себеп болған сирек жағдайлардың бірі. Енді тергеу чат хабарламаларының жай сөз болғанын немесе ер адамның нақты қадамдар жасағанын анықтауы керек. Би-би-си ұлын қорғау үшін аты-жөнін жасырып отырған ер адам ChatGPT-пен екі айға жуық сөйлескен. Полицейлердің айтуынша, хат алмасуда ол балаға, басқа адамдарға және өзіне зиян келтіру мүмкіндігін талқылаған. Хабарламалардың бірінде фермер адамдарға қайғы-қасірет әкелу ниетінің қайдан пайда болғанын білгісі келетінін жазған. Тағы бірінде ол ұлынан құтылу ниеті туралы айтты. Ақырында OpenAI назарын аударған осы әңгімелердің мазмұны болды. Компания Федералдық тергеу бюросына ақпарат берді
АҚШ тергеулері, содан кейін ФБР Бразилия билігін хабардар етті. Еспирито-Санто штатының полициясы ер адам ұсталғанға дейін бірнеше күн бұрын ақпарат алған. «Біз бұл істің маңыздылығына байланысты және әкесі 20 маусымға дейін ұлына зиян келтіруді жоспарлағандықтан, біз бұл іске басымдық бердік», - деді полицияның киберқылмыспен күрес бөлімінің бастығы Бренна Андраде БАҚ-қа. Ер адам 19 маусымда Сан-Габриэль-да Паглия муниципалитетінің ауылдық аймағында ұсталды. Тінту кезінде тәртіп сақшылары белгісіз заттар салынған төрт бөтелке мен ілгегі байланған арқан тапты. Тергеушілердің айтуынша, бұл заттар ер адамның өзіне зиян келтіру жоспарымен байланысты болуы мүмкін. Полиция сонымен қатар оның мектептерге, шіркеулерге және құқық қорғау органдарының қызметкерлеріне шабуыл жасауды талқылады деген хабарламаларды қарап жатыр. Тергеушілердің пайымдауынша, ер адам интернеттен улы заттар, соның ішінде рицин туралы ақпаратты іздеген, сонымен қатар сұрауларды қайта құру арқылы ChatGPT қауіпсіздік шектеулерін айналып өтуге тырысқан. «Платформада айтылғанның бәрі полиция оқиға орнына жеткенде расталды», - деді Андраде. Бұл ретте ер адамның өзі ұлына зиян келтірмек болғанын жоққа шығарады. 54 күннен кейін
Қамауға алынған ер адам 13 тамызда босатылды. Оған әзірге ешқандай айып тағылған жоқ, тергеу жалғасуда. Енді ол электронды білезік тағуы керек және ұлымен немесе баланың анасымен байланыста бола алмайды. Тергеушілер оның телефонын зерттеп, тәркіленген заттарға сараптаманың қорытындысын күтуде. Сонымен қатар, олар ер адамның өз ниетін жүзеге асыру үшін қандай да бір нақты әрекеттерді жасағанын анықтауы керек. Сонымен қатар, оның басқаларға зиян келтіру үшін жалдауы мүмкін адаммен байланысқа шықты деген мәлімдемесі тексерілуде. Қорғаушы тарап мұндай әрекеттердің болмағанын алға тартады. «Егер жасанды интеллектпен сөйлесу және оған бос сөз айту қылмыс болса, онда барлығы түрмеге жабылуы керек», - деді ер адамның адвокаты Педро Пауло Песси BBC-ге. Оқиға тек тергеудің өзінен ғана емес қызықты. Бұл анағұрлым кеңірек сұрақ тудырады: сөйлесу кезінде белгілі бір адамға ықтимал қауіпті таныса, чатбот не істеуі керек? OpenAI BBC Бразилияға компания «басқаларға сенімді және дереу зиян келтіру қаупін» анықтаса, құқық қорғау органдарына хабарлай алатынын айтты. Сонымен бірге тергеушілер
компаниядан пайдаланушы деректері мен хабарларын алды, бірақ ChatGPT жауаптары емес. «Біз оған берілген жауаптарды алмадық», - деді Андраде. Дәлел тұрғысынан сұрақ тудыратын да осы. Қылмыстық заңгер Майра Фернандес мұндай хабарламаларды бағалау үшін коммуникацияның толық контексті қажет деп санайды. Оның айтуынша, диалогтың толық тарихынсыз жеке сөз тіркестерін қарастыру мүмкін емес - әңгіменің қалай дамығанын және чатбот қолданушының мәлімдемелеріне жауап бергенін немесе сөйлесу бағытына қандай да бір түрде әсер еткенін түсіну маңызды. Тағы бір сарапшы, цифрлық құқық профессоры Патрисия Пек AI бірте-бірте ақпаратпен жұмыс істеу құралы ғана емес, белгілі бір мінез-құлық үлгілерін анықтай алатын жүйеге айналуда деп санайды. Дегенмен, ол нақты шекаралардың қажеттілігі туралы айтады. Егер хабарламалар жай ғана дерексіз ойларды емес, нақты әлеуетті құрбанды, қаражаттың болуын және дереу тәуекелді көрсетсе, технологиялық компания араласуға этикалық және кейбір жағдайларда заңды міндеттемесі болуы мүмкін деп санайды. Бірақ мұндай тетіктерді пайдаланушыларды тұрақты бақылауға айналдыру да қауіпті деп есептейді Пек.
Технологиялық компаниялардың AI пайдаланушыларының ықтимал қауіпті мінез-құлқы туралы ақпаратты құқық қорғау органдарымен бөлісу жағдайлары сирек болып қала береді. Тамыз айында OpenAI ФБР-ға ФБР-ға 25 жастағы Флорида азаматы өзінің бұрынғы қызына зиян тигізу ниеті туралы хабарлағаннан кейін ақпарат берді, деп хабарлайды АҚШ БАҚ. Бразилия полициясы фермердің ісін Эспириту-Санто штатындағы бірінші және AI жүйесінің сигналынан кейін тергеу басталған бүкіл елдегі үшінші оқиға деп атады. Алайда, Бразилияда жиналған материалдар айып тағылу үшін жеткілікті ме, жоқ па, әлі анықталмады. Тергеу жалғасуда, ер адам сот шешімімен шектеулер астында қалады.
