Anthropic впервые допустила независимых экспертов к внутренним системам для проверки безопасности ИИ

🔍 Anthropic впервые допустила независимых экспертов к внутренним системам для проверки безопасности ИИ Разработчик Claude предоставил шести исследователям некоммерческой организации METR доступ к своим внутренним инструментам практически на уровне сотрудников компании. Эксперты смогут изучать возможности ИИ-моделей, проверять системы защиты, оценивать риски и разбирать случаи, когда ИИ ведёт себя непредсказуемо или выходит за рамки инструкций. 📄 И Anthropic не сможет запретить публикацию результатов проверки. Исследователи смогут самостоятельно рассказывать о выявленных проблемах без предварительного согласования с компанией. При этом Anthropic сохраняет право требовать удаления из отчетов отдельных конфиденциальных сведений, например деталей архитектуры моделей. Компания сравнивает такой подход с банковским надзором, когда независимые специалисты получают доступ к внутренним процессам для оценки рисков. 📷 BlueScreen | Digital Kazakhstan