Зерттеушілер қауіпсіздікті жақсарту үшін AI дамуын бәсеңдетуді талқылайды

Wired мәліметтері бойынша, көптеген жасанды интеллект зерттеушілері олар жасап жатқан технологиялар өте қауіпті болуы мүмкін деп санайды. Дегенмен, бұл тұрақсыз алгоритмдерді қалай басқаруға болатыны толық түсініксіз. Соңғы жылдары зерттеушілер жасанды интеллект теріс әсерінің алдын алу үшін әртүрлі идеяларды ойлап тапты. Оларға мемлекеттік реттеулерді қатайту, прогресті өлшеу және модельдердің ішкі құрылымын зерттеудің жаңа тәсілдері, сондай-ақ GPU ішіндегі бақылау құрылғыларын орнату және тіпті көптеген AI чиптерін салтанатты түрде жою сияқты азырақ даулы жоспарлар кіреді. Жасанды интеллектті дамытуға неғұрлым саналы көзқарас үшін саяси және қоғамдық қысымның күшеюіне байланысты AI қауіпсіздігін қалай қамтамасыз ету керек деген сұраққа жауап түсініксіз болып қалады. «Біз мұны зерттеу мәселесі ретінде қарастыруымыз керек», - дейді Торонто университетінің AI зерттеушісі және «Шекараны баяулату, зерттеу күн тәртібі» деп аталатын жаңа есептің тең авторы Раймонд Дуглас, ол AI дамуын бәсеңдету әлі шешілмеген мәселе болып қала береді деп ескертеді. «Біздің нұсқаларымыз не екенін және олар не істей алатынын түсінбейміз.

Anthropic зерттеушілерінің бірі компаниядан кетіп, AI бірнеше жыл ішінде адамзатты жойып жіберуі мүмкін екенін ескерткеннен кейін ықтимал AI апаты туралы пікірталастар соңғы апталарда шарықтау шегіне жетті. Anthropic AI қауіпсіздік зертханасының басшысы оның алаңдаушылығын тез арада қайталады. АҚШ-тағы ірі AI компанияларының жетекшілері: Anthropic's AltAIX's, AiX'Aides, Space's. Илон Маск пен Google компаниясының Demis Hassabis DeepMind – бұл мәселе AI-ның дамуын бәсеңдету немесе тоқтатуды қолдайтынын айтты Осы аптада Anthropic жасанды интеллекттің қалай дамып жатқанын бақылаудың бірнеше жаңа әдістерін жариялады - бұл, мысалы, Клодтың AI зерттеулерінің 26 пайызын құрайтынын көрсетеді.

opic, 2026 жылдың басындағы нөлмен салыстырғанда. Олар сондай-ақ Anthropic өзінің есептеу бюджетінің 6 пайызын өзінің AI қауіпсіздігін жақсарту жолдарын зерттеуге жұмсағанын көрсетеді. Дегенмен, Дуглас және басқа сарапшылар AI дамуын тиімді және сенімді қадағалау AI зертханаларынан тыс қаржыландыру мен сараптаманы қажет етеді деп санайды. Ұсынылған шешімдердің кейбірі - осы соңғы есепте де, кеңірек айтқанда - басқаларға қарағанда қол жетімді болып көрінеді. Жиі талқыланатын идеялардың бірі - үшінші тараптарға AI үлгілеріне кеңірек қол жеткізу. Бұл бағалаушылар олардың мүмкіндіктерін бағалау үшін үлгілерді сынақтан өткізеді және сенім шарттарында дұрыс емес мінез-құлықты тудыру әрекеті арқылы «қате сыналады». Джеффри Ирвинг, Ұлыбританияның AI қауіпсіздік институтының бұрынғы бас ғалымы және бұрын Google DeepMind зерттеушісі, қатаң тексерулер қазіргі уақытта дамыған интеллекттің дамуын тиімді тежей алады деп санайды. «Қысқа мерзімді перспективада тексерулер мен аудиттер немесе тіпті өзара келісімдер жұмыс істейді», - дейді Ирвинг. «Менің ойымша, компаниялар RSI және орынсыз ұшудан қорқады». Кейбір пессимистер дауласады

мұндай тексерулер қазіргіден гөрі тәуелсіз және ғылыми негізделген болуы керек. Жақында кейбір AI агенттерінің тестілеу кезінде алдау фактісі, әрине, қатаңдық қажет болуы мүмкін екенін көрсетеді. Коннор Ли, AI бақылауын жақтайтын коммерциялық емес Control AI ұйымының басшысы, шолуларға FBI немесе NIA кіруі керек дейді. «[Үлкен AI компаниялары] «тәуелсіз бағалаушылар» дегенде, олар «мен топтық үйлерімде тұратын достарыма өзімнің кеңестерімді қарау үшін төлегім келеді» дегенді білдіреді.» Дуглас сонымен қатар модельді бағалауды жақсартатын жаңа зерттеулердің қажеттілігіне назар аударады. Ол сыртқы сарапшылардың құпия ақпаратты ашпай-ақ үлгілерді пайдалануды қалай тексеретінін көрсететін соңғы жұмысты келтіреді. Пайдалы болуы мүмкін басқа әдістерге олардың не істейтінін жақсы түсіну үшін AI үлгілерін іздеудің жаңа әдістері кіреді. Ли модельдерді бағалау және модельді «туралау» немесе оны басынан бастап адами құндылықтарды бейнелеу үшін нені білдіретіні туралы көбірек зерттеу қажет екендігімен келіседі. "There is a very focused

«Осы компаниялардың бағалауды ғылыми ретінде көрсету үшін келісілген маркетингтік науқаны», - дейді ол. "But we don't really understand how AI works." АҚШ үкіметінің AI дамуын шектеуге қаншалықты дайын екені белгісіз. Президент Трамп саланы реттеу қажеттілігін негізінен жоққа шығарды, бірақ үлкен AI-ны шектеуге екі жақты қолдаудың өсіп келе жатқанының белгілері бар. Кейбір сарапшылардың пайымдауынша, AI дамытуға шектеулер енгізу, сайып келгенде, есептеулерге қажетті шикізатқа сынақтарды қамтуы керек. Ең қуатты модельдер үлкен деректер орталықтарында мыңдаған жетілдірілген Nvidia GPU көмегімен оқытылады. Үкімет мұны президент Байденнің 2023 жылғы атқарушы бұйрығы арқылы бақылай бастады, ол компаниялардан белгілі бір есептеу шегінен жоғары жаттығулар туралы есеп беруді талап етті. 2024 жылдың наурыз айындағы саясаттың ақ қағазында бұлттық провайдерлер үлкен AI жаттығуларында көрінуіне байланысты болашақ күш-жігерде маңызды рөл атқаруы мүмкін екендігі айтылады. Ақ қағаз шоттарды, GPU пайдалануын, желілік трафикті және қуат тұтынуды бақылауды ұсынады, бұл мүмкін үшін прокси ретінде қызмет етуі мүмкін.

AI қал. Сарапшылар сонымен қатар чиптердің өзін өзгерту арқылы озық AI жасау әрекеттерін қадағалау және бақылау жолдарын ұсынды. RAND зерттеушілері 2024 жылы ұсынған идеяның бірі - өнімділікті өлшеу үшін пайдаланылатын GPU құрылғыларындағы бар құрамдас бөлікті кезеңді түрде тексерілетін есептеу әрекетінің криптографиялық қауіпсіз есебін жүзеге асыратындай етіп өзгерту. Бұл, мысалы, компанияның белгілі бір шекті деңгейден жоғары AI үйреткенін көрсетуі мүмкін. Басқалары пайдалану туралы егжей-тегжейлі ақпаратты жинау үшін чиптерде бұзуға төзімді компоненттердің жаңа түрлерін жасауды ұсынды. Бұл құрамдастарға криптографияны пайдалана отырып, арнайы үлгі салмақтарын іске қосу қажет болады. Кейбіреулер тіпті белгілі бір үлгілерді іске қосу үшін қашықтан криптографиялық рұқсатты қажет ететін чиптерге «қосқыштарды» салуды ұсынды. Олардың пайымдауынша, бұл рұқсат етілмеген тараптардың AI үлгілерін үйретуіне немесе егер олар дұрыс емес қолдарға түссе, чиптерді өшіруге кедергі келтіруі мүмкін. Сарапшылардың көпшілігі халықаралық ынтымақтастықтың жаңа жолдарын табудың таралуын бақылау үшін маңызды болатынымен келіседі

AI-ның өсуі, басқа елдер сияқты, әсіресе Қытайда - озық AI жасау мүмкіндігі бар. «Орта мерзімді перспективада ең оңай жолы - келісім арқылы Қытаймен жабдықтың өсуін өзара азайту», - дейді Ирвинг. АҚШ сонымен қатар Nvidia-ның ең қуатты чиптерін экспорттауға тыйым салу арқылы қытайлық AI дамуын шектеуге тырысты. Бұл шектеулі табысқа жетті, өйткені компаниялар әлі де шетелден бұлтты есептеулерді қолданатын модельдерді үйрете алады. АҚШ пен Қытай осы айда Си Цзиньпиннің АҚШ-қа сапары кезінде AI тәуекелдерін талқылауы мүмкін. Қытайлық сарапшылар жылдам дамып келе жатқан AI-дан туындайтын қауіптерге алаңдағанымен, олар баяулау қытайлық компанияларды американдық әріптестерін артта қалдыратынына күмәнмен қарайды. Ынтымақтастыққа арналған кейбір идеялар саяси ұсыныстардан гөрі ғылыми фантастикадан шыққан сияқты. Оксфорд университетінің философы, экзистенциалды тәуекелдерге маманданған Тоби Орд, егер елдер AI-ны дамытуға шектеулер туралы келісе алатын болса, және егер қауіп жеткілікті болса, онда ірі елдер GPU-ларды бейтарап аумақта жинай алады деп болжаған.

және оларды жойыңыз. Мұндай драмалық қадам екі елдің де AI дамуын толығымен тоқтатуға келісуін талап етеді. Бүкіл тапсырма соңғы технологиялық жетістіктерге байланысты одан да қиын болуы мүмкін және рекурсивті өзін-өзі жетілдіруге қатысты белгісіздік осы саладағы прогресті бақылауды ерекше маңызды етеді. RSI индексі деп аталатын жаңа эталон - бұл бірнеше жаңа күштердің бірі. Vals AI стартапы әзірлеген бұл эталон AI ғалымдары жариялаған зерттеулерге қарсы жалпы AI үлгілерінің өнімділігін өлшеу арқылы AI басқаратын AI прогресін бақылауға тырысады. Vals AI компаниясының негізін қалаушы және бас директоры Райан Кришнанның айтуынша, эталон келесі жылы AI зерттеушілер қадағалай алмайтын жұмыстарды жасай алады деп болжайды. Жасанды интеллектіні бақылаудың ең жақсы жолы тек техникалық мәселе емес. Дуглас және басқалардың есебінде орынсыз бақылауды жүзеге асыруға асығу күш-жігерді саясатқа батып жіберуі немесе реттеуші органдардың басып алуға бейім болуы мүмкін екенін ескертеді. «Мен АҚШ үкіметіне мұның бәрін тоқтатуды айтудың өзі жақсы нәтижеге әкелетініне сенімді емеспін», - Го

- дейді Дуглас. «Жаман жоспары бар бөртпе әрекет ештеңеден де жаман болуы мүмкін». Материалды бастапқы басылым негізінде нейрондық желі дайындады. AI мәліметтерде қате жіберуі мүмкін (сандар, атаулар, күндер, тырнақшалар) - маңызды ақпаратты бастапқы дереккөзбен тексеріңіз. NVIDIA кең ауқымды LLM тестілеуі үшін AIPerf-ті енгізді Компаниялардың 69%-ы OpenAI платформасын негізгі платформа ретінде таңдайды FakeGit науқаны жасанды агенттердің зиянды бағдарламаларға арналған арнаға айналатынын көрсетеді. NVIDIA Topograph AI зауыттарында GPU жүктемесін орналастыруды оңтайландырады. Tata Elxsi зауыттардағы қауіптерді секундтарда анықтау үшін IRIS платформасын әзірледі.