Кто главный – человек или ИИ? Microsoft готовит кодекс: 15 сентября 12:00 - новости на Tengri Life

Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Компания хочет заранее определить правила для будущих мощных моделей и закрепить главный принцип: ИИ должен оставаться под контролем человека, передает Tengri Life. Документ пока не принят окончательно. Microsoft открыла его для публичного обсуждения на шесть недель, после чего планирует использовать полученные предложения при разработке и обучении новых моделей. Как отмечается на сайте компании, над проектом компания работала около пяти-шести месяцев. Один из главных принципов документа — человек должен сохранять возможность управлять системой. ИИ не должен мешать людям менять его настройки или полностью отключать модель. Кроме того, система должна понятно взаимодействовать с пользователем, а нарушение установленных правил должно восприниматься как ошибка, которую необходимо исправить. В Microsoft считают, что такие ограничения помогут снизить риск ситуации, когда ИИ, пытаясь выполнить поставленную задачу, начинает действовать способом, который может навредить человеку. "ИИ не должен выходить из-под контроля человека. Модели должны оставаться подчинёнными человечеству и работать под реальным человеческим надзором и контролем", — отметили в компании. "ИИ не должен выходить из-под контроля человека. Модели должны оставаться подчинёнными человечеству и работать под реальным человеческим надзором и контролем", — отметили в компании. Компания также предлагает обсудить, насколько ИИ должен учитывать личные границы людей и особенности общения с уязвимыми пользователями. После завершения публичного обсуждения Microsoft планирует доработать правила и использовать их в дальнейшей работе над ИИ. Подход Microsoft отличается от позиции Anthropic, которая ранее разработала собственный документ с принципами поведения для Claude. В Anthropic допускают возможность того, что в будущем ИИ может обладать сознанием и получить определенный моральный статус. Microsoft придерживается другой позиции: компания считает, что современные ИИ-модели сознанием не обладают и не должны получать юридические права или возможность требовать защиты собственных интересов. Глава ИИ-направления Microsoft Мустафа Сулейман также призвал разработчиков не торопиться с развитием технологий. "Мы отвергаем идею предоставления ИИ юридического статуса, а также мнение о том, что модели могут иметь какие-либо права. Это предупредительный сигнал. Очевидно, что лабораториям, занимающимся разработкой ИИ, необходимо координировать свои действия, чтобы мы могли сохранить контроль над этой технологией", — заявил глава ИИ-направления Microsoft Мустафа Сулейман. "Мы отвергаем идею предоставления ИИ юридического статуса, а также мнение о том, что модели могут иметь какие-либо права. Это предупредительный сигнал. Очевидно, что лабораториям, занимающимся разработкой ИИ, необходимо координировать свои действия, чтобы мы могли сохранить контроль над этой технологией", — заявил глава ИИ-направления Microsoft Мустафа Сулейман. По его словам, компаниям стоит больше внимания уделять безопасности и координации работы, особенно по мере роста возможностей ИИ. Проект Microsoft появился на фоне дискуссии внутри отрасли о том, насколько быстро нужно развивать искусственный интеллект. Ранее генеральный директор Anthropic Дарио Амодей в эссе на X призвал замедлить наращивание возможностей моделей на фоне опасений злоупотреблений ИИ. Его поддержали Илон Маск (xAI) и Сэм Альтман (OpenAI). Альтман также заявил, что IPO OpenAI в этом году не будет из соображений безопасности. Недавно исследователь, работавший в OpenAI и Anthropic, Джейкоб Коксон заявил, что крупнейшие ИИ-компании слишком быстро развивают технологии и могут недооценивать связанные с этим риски, ведь "ИИ может нас всех уничтожить". После этого акции мировых компаний, занимающихся разработкой искусственного интеллекта, резко упали. Читать также: Создатели Claude обвинили китайские ИИ-компании в краже ответов