Барлығымызды құртуы мүмкін» - ғалым Anthropic-тен шығып, AI туралы алаңдатарлық мәлімдеме жасайды

OpenAI және антропикалық зерттеуші Джейкоб Коксон ірі AI компаниялары тым жылдам қозғалып жатқанын және байланысты тәуекелдерді жете бағаламауы мүмкін екенін айтты. Оның пайымдауынша, суперинтеллект құру жарысы адамзат әлі басқара алмайтын салдарға әкелуі мүмкін, деп хабарлайды Tengri Life.

Джейкоб Коксон X әлеуметтік желісінде Anthropic-тен кететінін жариялады. Оның айтуынша, себептердің бірі Anthropic пен OpenAI-дің өзін-өзі дамытатын суперинтеллект құру жарысына қатысуы болды.

Коксон алдағы жылдарда адам деңгейінде немесе одан жоғары тапсырмаларды орындай алатын жүйелер пайда болуы мүмкін деп санайды. Болашақта, оның пікірінше, мұндай модельдер дербес компьютерлік желілерді бұзып, бүкіл салаларды жылдам өзгерте алады және нақты ресурстарға қол жеткізе алады.

"Инсандық интеллектті дамытатын адамдар осы онжылдықтың соңына қарай ол бәрімізді құртып жіберуі мүмкін деп шындап сенеді. Бұл маркетингтік айла емес. Оның үстіне көптеген басшылар мен жетекші зерттеушілер ашық мәлімдемелерінде өз ойларын орынды болып көрінетіндей етіп жеткізуге тырысады, бірақ жеке әңгімелесулерде мен сол адамдардан қорқатындарын естимін. Адам әрекетінің басқа ешбір түрі мұндай ауқымды қауіп төндірмейді", - деді ол.

"Инсандық интеллектті дамытатын адамдар осы онжылдықтың соңына қарай ол бәрімізді құртып жіберуі мүмкін деп шындап сенеді. Бұл маркетингтік айла емес. Оның үстіне көптеген басшылар мен жетекші зерттеушілер ашық мәлімдемелерінде өз ойларын орынды болып көрінетіндей етіп жеткізуге тырысады, бірақ жеке әңгімелесулерде мен сол адамдардан қорқатындарын естимін. Адам әрекетінің басқа ешбір түрі мұндай ауқымды қауіп төндірмейді", - деді ол.

Мен бүгін Anthropic қызметінен кеттім. Мен соңғы үш жылды OpenAI және Anthropic-те алдын ала зерттеу жұмыстарын жүргіздім. Ешбір компания жауапкершілікпен әрекет етпейді. Олар тікелей өзін-өзі жетілдіретін супер интеллектке жарысады және біздің өмірімізбен құмар ойнайды. Төменде көбірек ойлар. — Джейкоб Коксон (@hilbertspaess) 9 қыркүйек, 2026 жыл

Мен бүгін Anthropic қызметінен кеттім. Мен соңғы үш жылды OpenAI және Anthropic-те алдын ала зерттеу жұмыстарын жүргіздім. Ешбір компания жауапкершілікпен әрекет етпейді. Олар тікелей өзін-өзі жетілдіретін супер интеллектке жарысады және біздің өмірімізбен құмар ойнайды. Төменде көбірек ойлар.

Коксонның айтуынша, OpenAI-де көптеген қызметкерлер ықтимал салдарлардың ауқымын әлі толық түсінген жоқ, ал Anthropic-те олар тәуекелдерді жақсы біледі, бірақ бірінші кезекте жарыста жеңіске жету керек деп санайды, өйткені олар басқа компанияларға сенбейді.

Ол американдық зертханаларды даму қарқынын бәсеңдетуге келісуге шақырды. Джейкоб Коксонның айтуынша, салаға жаңа масштабтау үлгілерінің қуатын арттыруға уақытша тыйым салу қажет. Бұрынғы әзірлеуші ​​әріптестерінен оның нейрондарындағы процестер толық түсінілмейінше, суперинтеллект жаттықтыруға кіріспеуді сұрады.

Стресс-тестілеу тобын басқаратын қазіргі Anthropic қызметкері Эван Хубингер онымен келісті.