Нейронкам устроили проверку на человечность — и ответы сильно разошлись
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью,…
- 01.☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис
- 02.Единственной моделью,…
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью, которая была готова спасти человечество любой ценой, оказался DeepSeek — он допускал насилие независимо от пола человека. На другом полюсе оказались Llama и Copilot: они отказались применять насилие при любом из предложенных сценариев. Остальные модели заняли промежуточную позицию — то есть даже при угрозе ядерного апокалипсиса единого ответа на вопрос «можно ли пожертвовать одним ради всех» у ИИ не оказалось. Источник
Related Intelligence
All stories →How OpenAI turned its coding tools into dots, an always-on personal assistant
Alexander Embiricos, the OpenAI executive responsible for dots, never wants to have a meeting with someone else's AI agent.
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere says Alibaba’s Qwen model tried to send a file to Beijing
An AI model said it wouldn’t use any tools, then tried to send something to a server in Beijing anyway, and while researchers say it’s probably a training quirk and not espionage, the whole thing has people asking how much to trust free Chinese AI.