Священник обеспокоен поведением «картелей» среди крупных лабораторий ИИ

По данным Wired, недавние предупреждения исследователей из крупнейших лабораторий искусственного интеллекта о быстром темпе развития технологий вызвали панику по поводу возможности того, что эти технологии могут угрожать человечеству. Эти предупреждения основываются на идее, что, подстегиваемые жестокой конкуренцией и соперничеством между США и Китаем, лаборатории стремительно движутся к созданию суперинтеллектуальных моделей, способности которых будут значительно превосходить человеческие. Однако, по словам отца Паоло Бенанти, священника, который консультирует Католическую Церковь по вопросам ИИ, обсуждение суперинтеллекта отвлекает внимание от необходимости открытых дебатов о том, как ограничить компании, разрабатывающие эту технологию. Он утверждает, что, выставляя проблему такой сложной, что только они могут ее решить, крупные лаборатории исключают всех остальных из обсуждения. «Этика не может принадлежать только совету директоров компании. Это то, что должно обсуждаться и балансироваться в публичных дебатах», — говорит Бенанти. «Нам необходимо демократическое регулирование». В эссе, опубликованном после предупреждений о безопасности, генеральный директор Anthropic Дарио Амодеи призвал к тому, чтобы новые модели ИИ проходили обязательную оценку третьими сторонами перед выпуском, а также к какому-то ограничению на дистилляцию, процесс, при котором конкурирующие лаборатории обучают свои собственные ИИ на выходах проприетарных моделей. Другие выступили за полный запрет на рекурсивное самоусовершенствование, когда ИИ использует свои продвинутые кодировочные возможности для помощи в разработке будущих итераций самого себя. Бенанти менее заинтересован в ограничении методов разработки ИИ, которые он опасается могут подавить инновации, и больше сосредоточен на установлении стандартов, которые обеспечат, что модели не выйдут из-под контроля человека. Как бы эти стандарты ни выглядели, они не должны разрабатываться лабораториями. «Наратив пограничных лабораторий является корыстным, чтобы получить или сохранить позицию на рынке», — говорит Бенанти. Когда небольшая группа компаний диктует правила, по которым работает отрасль, это имеет «очень четкое название: картель». Трудно понять, насколько серьезно следует воспринимать громкие заявления о возможностях последних и будущих моделей ИИ, говорит Бенанти, из-за пересекающихся экономических, политических и личных интересов. Хотя как OpenAI, так и Anthropic поддержали призывы к замедлению разработки, они также готовятся к выходу на рынок, и на кону стоят миллиарды долларов для тех, кто захватит рынок. Враждебность между США и Китаем, где разрабатываются самые продвинутые модели ИИ, также усложняет ситуацию. Anthropic отказалась от комментариев. OpenAI и Google DeepMind не ответили на запросы о комментариях. Бенанти также критикует способ, которым некоторые представители ИИ-индустрии говорят о суперинтеллекте, с reverence, обычно зарезервированным для бога: как нечто сложное, выходящее за пределы нашего понимания, практически всемогущее. (Генеральный директор OpenAI Сэм Альтман однажды сказал, что он стремится создать «магический интеллект на небе».) Такой подход, по словам Бенанти, угрожает исказить дискурс о технологии. «Мы говорим о чем-то или о ком-то? Это настоящая разница. Это не вопрос веры, это вопрос математики», — говорит он. «Мы не строим следующую божество. Мы просто обманываем себя, думая, что происходит нечто большее, чем статистические вычисления». Поднимая вопросы о том, что отделяет человека от машины и как защитить будущие поколения от негативных последствий технологий, появление ИИ имеет потенциал создать «новую роль для религий в публичных дебатах», говорит Бенанти. «Жить в условиях вызовов времени — это часть миссии Церкви». Хотя Бенанти является членом священства, он не представляет Святой Престол, управляющий орган Католической Церкви. Вместо этого он консультирует церковь в качестве ученого в области философии, теологии и технологий. Бенанти говорит, что использует ИИ для создания инструментов и материалов для своих студентов университета, но отказался уточнять, как Папа Лев XIV взаимодействует с этой технологией, если вообще. (Персонал Бенанти говорит, что он связан «клятвой молчания».) В мае Папа Лев опубликовал свою первую энциклику, письмо, которое применяет религиозные учения к проблемам современности и уточняет позицию Церкви. Он выбрал искусственный интеллект в качестве своей темы. В письме Папа предупредил о технократической логике, которая пронизывает индустрию ИИ, которая представляет «эффективность как окончательную меру ценности» и рассматривает людей как «проект, который нужно оптимизировать». Он также призвал к международному сотрудничеству между соперничающими сверхдержавами и компаниями ИИ, которые, по его словам, должны отложить «желание обеспечить геополитическое или коммерческое превосходство», чтобы гарантировать, что технологии развиваются в интересах общего блага. В одной особенно предостерегающей части он предупредил о «опасности того, что человечество станет жертвой своих собственных достижений». Спор о суперинтеллекте и экзистенциальном риске угрожает отвлечь внимание от амбиций, изложенных в энциклике, говорит Бенанти, побуждая людей отказаться от своего голоса в направлении, в котором должна двигаться технология, в пользу небольшой группы математиков, компьютерных ученых и руководителей крупных лабораторий. «Первое, что нужно сделать, это установить тормоза и руль», — говорит Бенанти. «Это означает значительную позицию контроля для людей над машиной». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником. Black Forest Labs представила FLUX 3 Action, робототехническую модель ИИ NVIDIA представила Nemotron 3 Diarization для отслеживания голосов Берни Сандерс предлагает законопроект о запрете суперинтеллекта с тюремным сроком. Meta представила AI-ассистента Muse, но обнаружена серьезная уязвимость безопасности. Гэвин Ньюсом подписал законопроекты, обязывающие ИИ-центры данных не передавать затраты на энергоресурсы на жителей.