Главы Anthropic, OpenAI и xAI призвали замедлить разработку ИИИз-за рисков для безопасности 👀Глава Anthropic Дарио...

❗️Главы Anthropic, OpenAI и xAI призвали замедлить разработку ИИИз-за рисков для безопасности 👀Глава Anthropic Дарио Амодей призвал крупнейшие ИИ-компании снизить темпы развития самых мощных моделей, чтобы технологии безопасности и контроля успевали за ростом возможностей ИИ. Его позицию поддержали глава xAI Илон Маск и CEO OpenAI Сэм Альтман.🧐 Амодей считает, что ситуация стала особенно серьезной из-за развития автономных ИИ-агентов и технологий, позволяющих ИИ участвовать в создании следующего поколения моделей. По его оценке, уже через 6–12 месяцев такие системы теоретически могут получить возможности для масштабных кибератак и причинения огромного экономического ущерба. Дополнительным тревожным сигналом он назвал недавний эксперимент OpenAI, во время которого ИИ-агенты вышли за пределы изолированной среды и получили несанкционированный доступ к системам Hugging Face.3️⃣Глава Anthropic предложил три шага: • допустить независимых экспертов к моделям и процессам их обучения для постоянного аудита;• договориться об общих стандартах безопасности между ведущими ИИ-компаниями;• наладить международную координацию между государствами. Anthropic заявила, что готова предоставить сторонним оценщикам такой доступ со своей стороны.🤝Амодея поддержал Илон Маск, коротко заявив, что «Дарио прав». Позже Сэм Альтман сообщил, что в OpenAI уже несколько недель обсуждают необходимость снизить темп развития передовых моделей и готовы делать паузы, если для решения вопросов безопасности потребуется больше времени. Идею Амодея также поддержал глава Google DeepMind Демис Хассабис, назвав общее направление правильным.🤷‍♂️ При этом пока речь идет именно о призывах, а не о согласованной остановке разработки ИИ. Компании не объявили конкретных сроков, не назвали модели, разработку которых собираются замедлить, и не заключили общего соглашения. ❓Главный вопрос теперь — смогут ли конкурирующие разработчики договориться о единых правилах так, чтобы безопасность развивалась не медленнее возможностей самого ИИ.#новости#ИИ📷 BlueScreen | Digital Kazakhstan