Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способствовал ли его ответ причинению вреда. Результаты этой проверки передаются специалистам Anthropic для дальнейшего рассмотрения. Наиболее точным инструментом Anthropic для выявления злоупотреблений служит классификатор на базе Claude Mythos Preview. Прежде чем вынести решение, он каждый раз обращается ко всем политикам безопасности компании. Однако подобная процедура требует слишком больших вычислительных затрат, чтобы применять её к каждому диалогу. Поэтому Anthropic обучила Claude воспроизводить решения этого классификатора, не обращаясь к самим политикам безопасности и не повторяя ход его рассуждений. При проверке запросов к Fable 5 новый механизм выявил 78% случаев, отмеченных исходным классификатором. Среди случаев с высоким приоритетом этот показатель достиг 94%, тогда как доля ложных срабатываний составила всего 1%. https://safeguards.anthropic.com/2026/self-assessment/
Материал агрегирован из первоисточника:
Telegram — Вайб-кодинг
Читать полностью в Telegram — Вайб-кодингТеперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способ...
Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способствовал ли его ответ причинению вреда. Результаты этой проверки передаются специалистам Anthropic для дальнейшего рассмотрения. Наиболее точным инструментом…
Кратко от AI: Главные тезисы
- Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способствовал ли его ответ причинению вреда
- Результаты этой проверки передаются специалистам Anthropic для дальнейшего рассмотрения
- Наиболее точным инструментом…
Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способ...
Похожие материалы
Автоматическое масштабирование конечных точек для вывода LLM
Together AI представляет автоматическое масштабирование для LLM с учетом метрик.
«Могу проводить в офисе по 17 часов 7 дней в неделю». 20-летний казахстанец строит 2 стартапа, преподает автоматизацию и работает ИИ-инженером
Дамир Искаков из Алматы рассказал, почему закрыл успешный стартап и отказался от работы в крупной корпорации, как начал преподавать и в чем, на его взгляд, сила молодых фаундеров.
Rivian расширяет совместное предприятие с Volkswagen, добавляя ИИ-ассистента
Rivian и Volkswagen расширяют совместное предприятие, добавляя ИИ-ассистента.
OpenAI удваивает ограничения на использование в планах Pro, поскольку конкуренция с Anthropic обостряется
OpenAI удваивает лимиты использования для своих платных планов — с Pro 100 до Pro 500. Запланированное сокращение квоты Pro 200 было отменено после отказа пользователей. Более эффективные модели, такие как Terra и Sol, должны еще больше увеличить полезную мощность. Этот шаг происходит накануне IPO Anthropic, поскольку…
