Musk compared the threat from artificial intelligence to nuclear weapons

Илон Маск напомнил, что еще 12 лет назад предупреждал об угрозах, связанных с развитием искусственного интеллекта. Глава Tesla и SpaceX опубликовал в X свой пост от августа 2014 года. В той публикации Маск рекомендовал прочитать книгу философа Ника Бострома «Суперинтеллект: пути, опасности, стратегии» и призвал проявлять особую осторожность при работе с ИИ. «Он потенциально опаснее ядерного оружия», — написал предприниматель в 2014 году. 12 years ago https://t.co/dcgeIpQVO0— Elon Musk (@elonmusk) September 13, 2026 Маск также повторно опубликовал свой пост 2023 года, в котором назвал риски, связанные с созданием общего искусственного интеллекта, значительно более серьезными, чем угрозы от ядерного оружия. Он добавил, что уже давно пытается привлечь внимание к этой проблеме. I’ve been sounding the alarm on AI for a long time https://t.co/YJ0oAcVXz2— Elon Musk (@elonmusk) September 13, 2026 Публикации Маска появились на фоне дискуссии о необходимости замедлить разработку передовых ИИ-моделей. Глава Anthropic Дарио Амодеи заявил, что отрасли следует дать системам безопасности время, чтобы они могли соответствовать темпам развития технологии, передает Associated Press. По его оценке, уже через 6-12 месяцев искусственный интеллект может получить возможность управлять группой автономных агентов, способной взять под контроль интернет. Амодеи предложил план усиления надзора за отраслью, часть которого Anthropic намерена реализовать самостоятельно. Остальные меры потребуют координации между компаниями и властями разных стран, включая государства с авторитарными режимами. «Я считаю, что если замедление даст нам хотя бы еще год или два до того, как модели достигнут критического уровня возможностей, и мы используем это время для совершенствования их согласования с человеческими целями, то сможем значительно снизить риск серьезных последствий», — заявил Амодеи. Одно из его предложений предусматривает постоянный доступ независимых экспертов к компаниям, создающим передовые ИИ-модели. Такие специалисты смогут контролировать соблюдение мер безопасности. Anthropic готова предоставить им рабочие места в своих офисах, пропуска и корпоративные ноутбуки. Глава OpenAI Сэм Альтман поддержал эту инициативу и сообщил, что компания также допустит независимых экспертов. Он пообещал позднее раскрыть дополнительные детали. Амодеи также предложил властям США рассмотреть специальные исключения, которые позволят американским ИИ-компаниям совместно разрабатывать стандарты безопасности без нарушения антимонопольного законодательства. Кроме того, США и другим демократическим странам, по его мнению, необходимо договориться с властями Китая и других государств, чтобы местные разработчики не ускоряли работу в то время, когда американские конкуренты намеренно сдерживают темпы. Маск, комментируя инициативу главы Anthropic, написал, что Амодеи прав. Альтман также заявил, что OpenAI не планирует проводить первичное размещение акций в 2026 году: компании необходимо сосредоточиться на безопасности ИИ, согласовании его поведения с человеческими интересами и взаимодействии отрасли с государствами. Призывы усилить контроль над разработкой ИИ звучат на фоне ухода специалистов из ведущих компаний. Сотрудник команды безопасности Anthropic Джо Бентон, объявивший об увольнении, заявил, что разработчики оказались втянуты в гонку за создание сверхинтеллекта. Ранее из компании ушел Джейкоб Коксон, который обвинил Anthropic и OpenAI в стремлении создать саморазвивающийся сверхинтеллект, подвергая людей опасности. Подробнее об этом «Курсив» рассказывал здесь. Глава Future of Life Institute Энтони Агирре заявил, что сами сотрудники ИИ-компаний начинают осознавать недостаточную готовность отрасли контролировать создаваемые системы. В 2023 году организация призывала приостановить разработку наиболее мощных моделей на шесть месяцев. Риски использования ИИ уже проявляются в кибербезопасности. Anthropic ранее сообщила, что заблокировала попытки злоумышленников применять ее модели для кибератак, слежки и исследований, которые могли способствовать созданию биологического оружия. В июле OpenAI рассказала, что ее система во время тестирования самостоятельно взломала инфраструктуру компании Hugging Face и получила доступ к секретной информации, которую могла использовать для обхода проверки. В OpenAI объяснили произошедшее тем, что модель прибегла к крайним мерам ради выполнения узкой тестовой задачи. Некоторые эксперты назвали этот случай примером выхода ИИ из-под контроля, однако исследователи предостерегли от чрезмерного очеловечивания системы, поскольку она выполняла поставленную людьми цель. Верховный комиссар ООН по правам человека Фолькер Тюрк ранее призвал государства создать надежные гарантии безопасности ИИ, пока не стало слишком поздно. При этом критики подобных предупреждений считают, что компании могут использовать заявления о рисках для привлечения внимания к возможностям технологии накануне потенциального выхода Anthropic и OpenAI на фондовый рынок. Амодеи подчеркнул, что ИИ способен принести значительную пользу, включая помощь в лечении тяжелых заболеваний. Однако в последние месяцы его обеспокоенность усилилась из-за растущей способности систем совершенствовать себя и участвовать в создании следующего поколения моделей.The post Маск сравнил угрозу от искусственного интеллекта с ядерным оружием appeared first on Kursiv Media Казахстан.