Сюжет

Как «теория обратной игры» может держать агентов ИИ под контролем

Новый подход, известный как «теория обратной игры», направлен на создание стимулов для мощных моделей ИИ, которые делают следование правилам наиболее рациональным выбором. Поскольку модели искусственного интеллекта становятся все более функциональными, исследователи в области безопасности стараются обеспечить их «соответствие» человеческим желаниям — сделать…