Илон Маск 12 жыл бұрын жасанды интеллекттің дамуына байланысты қауіптер туралы ескерткенін еске салды. Tesla және SpaceX басшысы 2014 жылдың тамызынан бастап X журналында өз жазбасын жариялады. Бұл басылымда Маск философ Ник Бостромның «Суперинтеллект: жолдар, қауіптер, стратегиялар» кітабын оқуды ұсынды және AI-мен жұмыс істеу кезінде ерекше сақ болуға шақырды. «Бұл ядролық қарудан да қауіптірек», - деп жазды кәсіпкер 2014 жылы. 12 жыл бұрын https://t.co/dcgeIpQVO0— Илон Маск (@elonmusk) 2026 жылдың 13 қыркүйегі, Маск 2023 жылғы жазбасын да қайта жариялады, онда ол жасанды жалпы интеллект құруға байланысты тәуекелдерді ядролық қарудан болатын қауіптерден айтарлықтай жоғары деп атады. Ол бұл мәселеге көптен бері назар аударуға тырысатынын айтты. Мен ұзақ уақыт бойы AI-да дабыл қағып жүрмін https://t.co/YJ0oAcVXz2— Илон Маск (@elonmusk) 2026 жылғы 13 қыркүйек Масктың жарияланымдары озық AI үлгілерінің дамуын бәсеңдету қажеттілігі туралы пікірталас кезінде пайда болды. Антропикалық бас атқарушы Дарио Амодей бұл сала қауіпсіздік жүйелеріне технологияның қарқынына ілесу үшін уақыт беруі керек деді.
Associated Press арқылы. Оның бағалауы бойынша, 6-12 ай ішінде жасанды интеллект Интернетті бақылауға алатын автономды агенттер тобын басқара алады. Амодей саланы қадағалауды күшейту жоспарын ұсынды, оның бір бөлігін Anthropic өзі жүзеге асыруға ниетті. Басқа шаралар авторитарлық режимдері бар мемлекеттерді қоса алғанда, әртүрлі елдердегі компаниялар мен билік арасындағы үйлестіруді талап етеді. «Менің ойымша, егер баяулау бізге модельдер сыни деңгейге жеткенге дейін кем дегенде бір-екі жыл береді және біз бұл уақытты олардың адамдық мақсаттарға сәйкестігін жақсарту үшін пайдалансақ, біз ауыр зардаптардың қаупін айтарлықтай төмендете аламыз», - деді Амодей. Оның ұсыныстарының бірі AI үлгілерін жасайтын компанияларға тәуелсіз сарапшыларға тұрақты қолжетімділікті қамтамасыз етеді. Мұндай мамандар қауіпсіздік шараларының сақталуын бақылай алады. Anthropic оларды кеңселерінде жұмыс орындарын, бейдждер мен корпоративтік ноутбуктермен қамтамасыз етуге дайын. OpenAI бас директоры Сэм Альтман бұл бастаманы қолдап, компания тәуелсіз сарапшыларға да рұқсат беретінін айтты. Ол толығырақ ақпаратты кейінірек жариялауға уәде берді. Амодей т
Ол сондай-ақ АҚШ билігіне АҚШ-тың AI компанияларына монополияға қарсы заңдарды бұзбай қауіпсіздік стандарттарын бірлесіп әзірлеуге мүмкіндік беретін ерекше ерекшеліктерді қарастыруды ұсынды. Оған қоса, Америка Құрама Штаттары мен басқа да демократиялық елдер, оның ойынша, америкалық бәсекелестер қарқынын әдейі тежеп тұрған кезде жергілікті құрылыс салушылар жұмысты тездетпеуі үшін Қытай және басқа елдердің билігімен келісімге келу керек. Маск Anthropic басшысының бастамасына түсініктеме бере отырып, Амодейдің айтқаны дұрыс деп жазды. Альтман сонымен қатар OpenAI 2026 жылы көпшілікке шығуды жоспарламайтынын айтты: компания өзінің мінез-құлқын адам мүдделерімен және саланың үкіметтермен өзара әрекеттесуімен үйлестіре отырып, AI қауіпсіздігіне назар аударуы керек. Жасанды интеллекттің дамуына бақылауды күшейтуге шақыру жетекші компаниялардың мамандарының кетуімен байланысты. Отставкаға кететінін жариялаған антропикалық қауіпсіздік тобының мүшесі Джо Бентон әзірлеушілер супер интеллект құру жарысына түскенін айтты. Бұған дейін Джейкоб Коксон Anthropic және OpenAI компанияларын адамдарға қауіп төндіре отырып, өзін-өзі дамытатын суперинтеллект құруға ұмтылды деп айыптап, компаниядан кеткен болатын. Бұл туралы толығырақ «Ку»
rsiv" бұл жерде айтты. Future of Life институтының басшысы Энтони Агирре AI компаниялары қызметкерлерінің өздері саланың құрылып жатқан жүйелерді басқаруға дайын еместігін түсіне бастағанын айтты. 2023 жылы ұйым ең қуатты модельдерді әзірлеуді алты айға тоқтатуға шақырды. AI пайдалану тәуекелдері бұған дейін де бұғатталғанын айтты. Шабуылшылар өз үлгілерін кибершабуылдарға, бақылауға және биологиялық қарудың жасалуына әкелетін зерттеулерге пайдалану үшін OpenAI жүйесі тестілеу кезінде Hugging Face инфрақұрылымын өз бетінше бұзғанын және тексеруді айналып өту үшін пайдалануға болатын құпия ақпаратқа қол жеткізгенін анықтады Бұл жағдай AI-ның шамадан тыс жұмыс істеуінің мысалы болды, бірақ зерттеушілер жүйені адам жасаған мақсатқа қызмет ететіндіктен, тым гуманитарлық етуден сақтандырды, өйткені БҰҰ-ның Адам құқықтары жөніндегі Жоғарғы комиссары Фолькер Түрік бұған дейін мемлекеттерді AI қауіпсіздігі үшін күшті кепілдіктер жасауға шақырған.
әлі де кеш емес еді. Дегенмен, мұндай ескертулерді сынаушылар компаниялар Anthropic және OpenAI-дің қор нарығына ықтимал енуі алдында технологияның мүмкіндіктеріне назар аудару үшін тәуекел туралы мәлімдемелерді пайдалана алады деп санайды. Амодей AI-ның айтарлықтай пайда әкелетін, соның ішінде ауыр ауруларды емдеуге көмектесетін әлеуеті бар екенін атап өтті. Дегенмен, соңғы айларда оның алаңдаушылықтары жүйелердің өзін-өзі жетілдіру және модельдердің келесі буынын жасауға қатысу қабілетінің өсуіне байланысты күшейе түсті. Маск жасанды интеллекттен келетін қауіпті ядролық қарумен салыстырған посты бірінші болып Kursiv Media Kazakhstan сайтында пайда болды.
