AI хайп үшін бірнеше ай бос емес. Сәуір айының соңында Anthropic өзінің Клод Мифос моделі көптеген қауіпсіздік сарапшыларына қарағанда бағдарламалық жасақтаманың осал тұстарын табуда жақсы деп мәлімдеді. Содан кейін бізде OpenAI – Huggging Face хакерлік оқиғасы болды, содан кейін Anthropic (мақтанышпен) және Meta (құлықсыз) өздерінің үлгілеріне қатысты ұқсас оқиғаларды ашты. Осыдан кейін Anthropic компаниясы оның модельдерінің бірі математикалық серпіліс жасады деген мәлімдеме жасады; көп ұзамай OpenAI өзінің математикалық серпілісін жариялады. Жақында антрополог-инженер Джейкоб Коксон компаниядан кететінін жариялап, ол және OpenAI «өзін-өзі жетілдіруге және біздің өмірімізбен құмар ойындарға тікелей жарысуда» деп мәлімдеді. Бұл оқиғалардың әрқайсысын баспасөз беттерінде жиі айтып, компаниялардың антропоморфизацияланған фреймдерін қайталады, бұл олардың бағдарламалық жасақтамасы тек қуатты ғана емес, сонымен бірге жаңадан басталған «жалпы жасанды интеллект» екенін көрсетуге арналған. Сонда шынымен не болып жатыр? Біз ауқымды, өркениетті өзгертетін технологиялық серпілістердің куәсі болып отырмыз ба, әлде бұл маркетинг пе? Осы оқиғалардың барлығында компаниялар тарапынан жаппай фанфар (заңсыз хакерлердің кінәсі ретінде ұсынылған)
патша істері) баспасөзде қарқынды жарияланумен бірге жүреді. Тиісті салалардағы сарапшыларға не болғанын тексеруге уақыт болған кезде, мүлдем басқа оқиға пайда болады, бірақ бұл БАҚ назарын азырақ алады. Киберқауіпсіздік саласындағы сарапшылар «бұзу» оқиғаларына қатысты әңгіме «жалған модельдер» немесе «өркениетті құрушы AI агенттері» туралы емес, OpenAI-дің немқұрайлылығы мен негізгі, қалыптасқан қауіпсіздік тәжірибелерін қабылдамауы туралы айтады. Математикалық нәтижелерге келетін болсақ, OpenAI пресс-релизіне «таң» қалған математиктер оның соңғы чатботы Astra «кем дегенде он жыл бойы ашық болған және негізгі нәтижеде ешқандай ілгерілеушілік көрмеген» мәселелерді шешкенін айтты, бірақ кейінірек олар нәтижелердің «алғашқыда пайда болғандай жаңалық» емес екенін түсінді. Содан бері математиктер компанияны зерттеулерді дұрыс жүргізбеді және плагиат жасады деп айыптады және олар Astra «терең интеллектуалдық секіріс» жасамағанын қайталады. Бірнеше аптадан кейін OpenAI өзінің математикалық серпілісін жариялады. Осыдан екі күн бұрын Нью-Йорк университетінің Куран институтының математика профессоры Тристан Бакмастер OpenAI басқа адамдардың жұмысын ұрлап, дұрыс әрекет жасамады деген таңғаларлық мәлімдеме жариялады.
ренжітті. Бастапқы, қауіпті супербарлау туралы мәлімдемелер жақсы ғылыми немесе инженерлік тәжірибеге негізделмеген. Керісінше, олар трансгуманизм, евгеника және елестететін болашақ цифрлық адамдар туралы армандау идеологияларына негізделген әңгімелер. Неліктен компьютерлік бағдарламалау мен математикаға үлкен тіл үлгілері мен соған байланысты технологияларды қолдану салаларында көп көңіл бөлінетіні туралы ойлану керек. Олар көбінесе адамның интеллектуалдық жетістігінің шыңы ретінде көтеріліп қана қоймайды, сонымен қатар олар ұсынылған жауаптарды тексеруге болатын мәселелерді қамтиды. Бұрынғы жылжымайтын мүлік AI-мен айналысатындарға барлық машиналарды жасап жатыр деген идеяны сатуға көмектеседі. Соңғысы математикалық және кодтау мәселелерін жүйені баптауды жеңілдетеді, өйткені жүйенің шығысын (ықтимал сөздер тізбегі немесе компьютерлік код бөліктері) деректер қызметкерлеріне әрқайсысына қарап, оларға түсініктеме беру үшін ақы төлеусіз бағалауға болады. Әсіресе математиктер корпорацияларға өз саласын осылай пайдаланбауын ескертті. Олардың жүздегені қол қойған мәлімдемеде «қазіргі уақытта технология индустриясы тарапынан өз өнімдерінің мүмкіндіктерін асыра көрсетуге күшті коммерциялық ынталандыру бар» делінген және саясаткерлерден сұрайды.
«Баспасөз хабарламаларына немесе математикалық нәтижелер туралы танымал есептерге сүйенбей, саяси шешімдерді қалыптастыруда сарапшылармен, соның ішінде математиктермен кеңесу керек». Біз бұл шақыруды қайталаймыз және технологиялық компаниялар жариялаған жылдамдық пен жеделдік иллюзиясы саясаткерлерді де, жұртшылықты да қате бағыттау үшін жасалған айла екенін атап өтеміз. Өкінішке орай, ол кейде жұмыс істейді, мысалы, сенатор Берни Сандерстің «жасанды супер интеллекттің» дамуына жол бермеу үшін жақсы мағыналы, бірақ сайып келгенде қате ұсынылған заңнамасымен. Оларды «суперинтеллект» немесе «жалған модельдер» ретінде сипаттау агенттіктерді оларды құрастыратын компанияларға емес, өнімдерге жатқызады. Бұл фрейм осы компаниялардың өнімдерін «адамгершіліктен жоғары» ретінде сатады және сонымен бірге компанияларға өз әрекеттері үшін жауапкершіліктен жалтаруға көмектеседі. Басқа компанияны бұзған зиянды бағдарлама жасағаны үшін OpenAI-ді қудалаудың орнына, пресс-релиздер, жаңалықтар агенттіктері, БАҚ өкілдері және заң шығарушылар өз бетінше әрекет еткендей «алаяқ модельдерге» сілтеме жасайды. Зерттеушілерге олардың компанияларының академиктердің жұмысын плагиат ету немесе тапсырыс берушінің деректерін келісімсіз модельдерді оқыту үшін пайдалану әдеті туралы сұрақ қоюдың орнына, жұртшылықтың қиялы қайта бағытталады.
ойдан шығарылған аса интеллектуалды машиналар келген кезде болашақта не болуы мүмкін деген қорқыныш. AI индустриясы тіпті танымал, екі жақты анти-деректер орталығына қарсы белсенділік бұл компаниялар жасап жатқан жақындап келе жатқан, қорқынышты, «адамгершіліктен тыс» машиналарды реттеу әрекеттерінен «алаулау» деп болжайды. Жасанды интеллект саласының пікірінше, біз осы деректер орталықтары күшейтетін климаттық апаттан, оларға жақын жерде тұратындардың демікпеден зардап шегетінінен, оларды субсидиялайтын халықтың электр қуатына ақы төлеуден немесе оларды салқындату үшін қайта бағытталатын судан гөрі ойдан шығарылған машина құдайы туралы көбірек алаңдауымыз керек. Біз маркетинг негізінде шешім қабылдағаннан және сол шешімдерді жылдам қабылдау үшін корпоративтік қысымға мойынсұнғаннан гөрі жақсырақ білеміз. Саясаткерлер мен қауымдастықтардың дана шешімдер қабылдауы тәуелсіз сарапшыларды тыңдауға және корпоративтік шағымдарды контекстке келтіруге уақытты талап етеді. Осы жазғы хайптың ең жақсы нәтижесі - саясаткерлер мен жалпы жұртшылық тыныс алуды, біздің скептицизмді ұстануды және келесі жолы қандай болатынын мойындауды үйренеді. Тимнит Гебру – DAIR атқарушы директоры және алдағы кітаптың авторы
Терең білім алу: Технологиялық идеалисттің радикалдануы, қазір алдын ала тапсырыс беруге болады және 16 ақпанда жарияланады. Эмили М. Бендер Вашингтон университетінің лингвистика профессоры және The AI Con авторы.
