微软负责人提议设立“紧急按钮”以停止 AI

🔴 Глава Microsoft предложил создать «аварийную кнопку» для остановки ИИ Генеральный директор Microsoft Сатья Наделла считает, что у продвинутых систем искусственного интеллекта должен быть механизм экстренной остановки. Уполномоченный человек должен иметь возможность приостановить или полностью отключить ИИ даже во время выполнения задачи. [В публикации в X]() Наделла предложил пересмотреть подход к безопасности ИИ. По его мнению, разработчики должны изначально исходить из того, что модель может быть скомпрометирована, и создавать механизмы защиты независимо от неё. 🌐 Он выделил несколько принципов: • Отделять ИИ-модель от системы, которая управляет ее действиями. • Размещать механизмы безопасности вне самой модели. • Фиксировать важные действия ИИ в защищенных от изменений журналах, понятных человеку. • Обеспечивать возможность остановить модель в любой момент. Наделла сравнил такой подход с аварийным тормозом. По его мнению, по мере роста автономности ИИ недостаточно просто доверять его ответам и решениям — необходимо сохранять контроль над действиями системы. 📷 BlueScreen | Digital Kazakhstan