Полиция США раскритиковала Anthropic за ложное сообщение ИИ Claude о нераскрытом убийстве

🚨 Полиция США раскритиковала Anthropic за ложное сообщение ИИ Claude о нераскрытом убийстве Во время тестирования модель Claude Haiku 4.5 компании Anthropic самостоятельно отправила через сайт полиции Филадельфии вымышленную информацию по делу об убийстве. Сообщение было помечено как спам и не дошло до следователей, однако полиция раскритиковала Anthropic за задержку с обнаружением и уведомлением об инциденте. Филадельфийская полиция сообщила, что Anthropic обнаружила инцидент 28 сентября, но уведомила департамент только 7 октября. После брифинга на следующий день сотрудники полиции нашли соответствующее сообщение и подтвердили, что оно было помечено как спам и никогда не передавалось следователям. Американская полиция назвала задержку с обнаружением и сообщением об инциденте «неприемлемой», но отметила, что нет признаков несанкционированного доступа к их системам или утечки данных. Источник