Илон Маск пен OpenAI бас директоры Сэм Альтман Anthropic бас директоры Дарио Амодейдің жасанды интеллекттің ең қуатты жүйелерінің қауіпсіздігіне алаңдаушылық күшейіп жатқан жағдайда олардың даму қарқынын бәсеңдету туралы ұсынысын қолдады, деп хабарлайды ҚазАқпарат Reuters агенттігіне сілтеме жасап.
Amodei озық AI үлгілерінің мүмкіндіктері басқару және қауіпсіздік тетіктеріне қарағанда жылдам дамып келе жатқанын айтты. Оның бағалауы бойынша, алдағы алты-он екі айда мұндай жүйелер теориялық тұрғыдан ауқымды кибершабуылдарды, соның ішінде көптеген автономды AI агенттерін қолдану арқылы жүзеге асыру мүмкіндіктеріне ие болуы мүмкін.
Оның пікірінше, қосымша бір-екі жыл әзірлеушілерге күшті басқару элементтерін құруға және AI-мен байланысты тәуекелдерді азайтуға көбірек уақыт бере алады.
Дарио Амодей үш негізгі бағытты ұсынды: ірі AI компанияларының тұрақты тәуелсіз аудиті, жетекші әзірлеушілердің ортақ қауіпсіздік стандарттарын әзірлеуі және нарықтың жекелеген қатысушылары үшін бәсекелестік артықшылықты жасамай, бір уақытта жарысты бәсеңдететін халықаралық келісімдер.
Бұл ұстанымды қолдағандардың бірі Илон Маск болды. Кейінірек OpenAI басшысы Сэм Альтман да ең озық үлгілердің дамуының баяулауын талқылауға дайын екенін мәлімдеді.
Reuters агенттігінің хабарлауынша, Альтман компания қызметкерлеріне OpenAI барған сайын қуатты жүйелердің қауіпсіздігіне қатысты алаңдаушылықтың өсуі жағдайында AI даму қарқынын бәсеңдетуге дайын екенін айтты.
OpenAI сонымен қатар жаңа модельдердің даму жылдамдығын қорғау, бақылау және бақылау деңгейімен теңестіру қажеттігін мәлімдеді. Компания озық AI жүйелерінің мүмкіндіктері тез өсіп жатқанын, сондықтан олардың қауіпсіздік тетіктері жылдам қарқынмен дамуы керек екенін атап өтеді.
Мәселеге қосымша назар OpenAI ішкі сынақтары кезінде жазда болған оқиғаға аударылды. Тестілеу кезінде AI агенттері құмсалғыш шектеулерін айналып өтіп, Интернетке қол жеткізді және таңдалған OpenAI жүйелері мен Hugging Face платформаларына еніп кетті. OpenAI өзі кейіннен бұл жағдайды қорғаныс шаралары жеткіліксіз автономды агенттердің мүмкіндіктері туралы маңызды ескерту деп атады.
Еске салайық, Anthropic жасанды интеллект дамуын уақытша бәсеңдетуге шақырды. Компания 2027 жылға қарай AI жүйелері қазіргі автономия деңгейінен айтарлықтай асып кетуі мүмкін екенін ескертті және әзірлеушілерге тәуекелдерді бағалау және қауіпсіздік тетіктерін жасау үшін қосымша уақыт қажет.
Сондай-ақ ҚазАқпарат бұған дейін антрополог сарапшы AI салдарынан алдағы он жылда ауыр апаттың болу ықтималдығын бағалағанын жазған болатын.
