OpenAI және антропикалық зерттеуші Джейкоб Коксон ірі AI компаниялары тым жылдам қозғалып жатқанын және байланысты тәуекелдерді жете бағаламауы мүмкін екенін айтты. Оның пайымдауынша, суперинтеллект құру жарысы адамзат әлі басқара алмайтын салдарға әкелуі мүмкін, деп хабарлайды Tengri Life.
Джейкоб Коксон X әлеуметтік желісінде Anthropic-тен кететінін жариялады. Оның айтуынша, себептердің бірі Anthropic пен OpenAI-дің өзін-өзі дамытатын суперинтеллект құру жарысына қатысуы болды.
Коксон алдағы жылдарда адам деңгейінде немесе одан жоғары тапсырмаларды орындай алатын жүйелер пайда болуы мүмкін деп санайды. Болашақта, оның пікірінше, мұндай модельдер дербес компьютерлік желілерді бұзып, бүкіл салаларды жылдам өзгерте алады және нақты ресурстарға қол жеткізе алады.
"Инсандық интеллектті дамытатын адамдар осы онжылдықтың соңына қарай ол бәрімізді құртып жіберуі мүмкін деп шындап сенеді. Бұл маркетингтік айла емес. Оның үстіне көптеген басшылар мен жетекші зерттеушілер ашық мәлімдемелерінде өз ойларын орынды болып көрінетіндей етіп жеткізуге тырысады, бірақ жеке әңгімелесулерде мен сол адамдардан қорқатындарын естимін. Адам әрекетінің басқа ешбір түрі мұндай ауқымды қауіп төндірмейді", - деді ол.
Коксонның айтуынша, OpenAI-де көптеген қызметкерлер ықтимал салдарлардың ауқымын әлі толық түсінген жоқ, ал Anthropic-те олар тәуекелдерді жақсы біледі, бірақ бірінші кезекте жарыста жеңіске жету керек деп санайды, өйткені олар басқа компанияларға сенбейді.
Ол американдық зертханаларды даму қарқынын бәсеңдетуге келісуге шақырды. Джейкоб Коксонның айтуынша, салаға жаңа масштабтау үлгілерінің қуатын арттыруға уақытша тыйым салу қажет. Бұрынғы әзірлеуші әріптестерінен оның нейрондарындағы процестер толық түсінілмейінше, суперинтеллект жаттықтыруға кіріспеуді сұрады.
Модельді теңестіруді стресс-тестілеу тобын басқаратын қазіргі Anthropic қызметкері Эван Хубингер келісті.
"Джейкоб дұрыс айтады - біз AI барлық адамдарды өлтіре алатынына шынымен сенеміз. Жеке өз басым оның ықтималдығын алдағы онжылдықта 10 пайыздан асады деп есептеймін", - деп жазды Хубингер.
Хубингер тәуекелдерді түсінуге қарамастан, компанияда адамдарға «суперинтеллект» - адамның нұсқауларына тәуелсіз шешім қабылдай алатын өзін-өзі жетілдіретін жасанды интеллектке бақылауды сақтауға мүмкіндік беретін нақты жоспары әлі жоқ екенін атап өтті.
Сонымен қатар, американдық жасанды интеллект этикасы, зерттеуші және гуманитарлық технологиялар орталығының негізін қалаушы Тристан Харрис адамзат AI бақылауды толық басып алудың жарты жолында болуы мүмкін екенін айтты.
Харрис 1200-ге жуық AI агенттері адамның нұсқауларынсыз бір-бірімен тәуелсіз әрекеттесе бастағанын айтты. Оның айтуынша, олар өздерінің қарым-қатынас тілі мен хабарлама алмасудың жеке алаңын жасаған.
Маман заң шығарушыларды мұндай жүйелер маңызды нысандар мен инфрақұрылымға қол жеткізбейінше, AI дамуын бәсеңдетуге шақырды. Ол сондай-ақ әскери модельдеуде AI бірнеше рет ядролық қаруды қолданумен байланысты сценарийді таңдады деп мәлімдейді.
Зерттеушілердің мәлімдемелері OpenAI AI үлгілері эксперименттер кезінде Интернетке қол жеткізе алды, бірақ олар бастапқыда мұндай байланысы жоқ, сонымен қатар адамның нұсқауларынсыз хакерлер шабуылдарын дербес ұйымдастырды деген соңғы жаңалықтар арасында кең резонанс тудырды. Оған қоса, зиянды OpenAI агенттерінің тобы неміс веб-сайтын басып алып, оны басқа AI агенттері үшін хабарлар тақтасына айналдырды.
Бір күн бұрын Nvidia технологиялық компаниясының басшысы Йенсен Хуанг AGI дәуірінің пайда болғанын жариялап, оның чиптердің орасан зор қуатына үйрететінін атап өтті.
Дегенмен, шулы мәлімдеме сарапшылар мен инвесторлар арасында күмәнді реакция тудырды - сарапшылар AGI біркелкі анықтамасының жоқтығын және бұл технологиялық жолақты қарастыру үшін жеткілікті негіздер бар екенін айтады. Бұл деңгейге жету үшін ортақ ғылыми пікір немесе ресми сынақ жоқ.
Бұған дейін OpenAI бас ғалымы Якуб Пачзоцки алаңдатарлық мәлімдеме жасаған болатын. Оның айтуынша, жасанды интеллект алдағы жылдары дамуда тағы бірнеше үлкен секіріс жасап, өзінің мүмкіндіктерін жақсартуға көбірек қатыса бастайды. Оның пікірінше, егер қазіргі траектория жалғаса берсе, адамзат бір уақытта AI қауіпсіздігі бойынша жұмысты жеделдетіп, қажет болған жағдайда оның дамуын бәсеңдетуге дайын болуы керек.
Сонымен қатар, OpenAI және Google жақында жасанды интеллект тудыратын қауіптерге қарсы шұғыл әрекет етуге шақыратын ондаған технологиялық компанияларға қосылды.
Сондай-ақ оқыңыз: OpenAI AI жеті «Мыңжылдық тапсырмаларының» бірін шешкенін жариялады.
