Anthropic has blocked Claude users due to the risk of creating biological weapons

Компания Anthropic выявила пользователей, которые пытались использовать модели Claude для исследований, способных привести к созданию биологического оружия. Доступ к сервисам для некоторых из них заблокировали. Об этом говорится в отчете о злоупотреблении ИИ, опубликованном 10 сентября, передает Tech-news со ссылкой на BBC. Anthropic сообщила о нескольких случаях, связанных с потенциально опасным применением ее моделей. В период с декабря 2025 года по август 2026-го исследователи компании обнаружили злоупотребления со стороны разработчиков шпионского ПО, политически мотивированных пользователей и спонсируемых государствами групп, распространяющих пропаганду. Пять эпизодов из отчета касаются возможного создания биологического оружия. Один из них связан с подготовкой заявки на научный грант. По данным Anthropic, пользователь Claude хотел провести исследование генетической модификации вируса чикунгунья. В частности, речь шла об изменении его заразности и способности обходить иммунную систему. Подобные исследования могут использоваться для разработки вакцин и лекарств. Однако, как отмечают в компании, те же методы способны сделать патоген более опасным. Anthropic призывает усилить контроль за ИИ В отчете компания подчеркнула, что описанные случаи не отражают типичное злоупотребление моделями. Это наиболее заметные и новые угрозы, которые Anthropic удалось выявить на данный момент. «Мы публикуем этот отчет, потому что считаем своей обязанностью раскрывать случаи злонамеренного злоупотребления нашими сервисами», — заявили в компании. Anthropic призвала правительства и разработчиков ИИ совместно искать способы выявления и предотвращения подобных сценариев. При этом лишь один из описанных эпизодов был связан с новейшими моделями компании. Anthropic назвала его тайной кампанией промышленного масштаба, направленной на изучение возможностей моделей и их незаконное воспроизведение. По утверждению разработчика, более ранние версии Claude не обладали достаточными возможностями для существенной помощи в проведении опасных биологических исследований. Поэтому меры безопасности в них были менее строгими. Сообщение Anthropic заблокировала пользователей Claude из-за риска создания биологического оружия появились сначала на Tech news.