Нейронкам устроили проверку на человечность — и ответы сильно разошлись
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью,…
- 01.☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис
- 02.Единственной моделью,…
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью, которая была готова спасти человечество любой ценой, оказался DeepSeek — он допускал насилие независимо от пола человека. На другом полюсе оказались Llama и Copilot: они отказались применять насилие при любом из предложенных сценариев. Остальные модели заняли промежуточную позицию — то есть даже при угрозе ядерного апокалипсиса единого ответа на вопрос «можно ли пожертвовать одним ради всех» у ИИ не оказалось. Источник
Related Intelligence
All stories →OpenAI 如何将其编码工具转变为 dots，一个始终在线的个人助手
负责 dots 的 OpenAI 高管 Alexander Embiricos 从不想与别人的 AI 代理开会。
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere称阿里巴巴Qwen模型试图向北京发送文件
一个AI模型声明不会使用任何工具，却仍试图向北京的服务器发送数据。研究人员认为这可能只是训练怪癖而非间谍活动，但此事引发了人们对免费中国AI可信度的质疑。