Теперь каждый раз, отвечая пользователю, Claude незаметно проводит внутреннюю проверку, пытаясь определить, не способствовал ли его ответ причинению вреда. Результаты этой проверки передаются специалистам Anthropic для дальнейшего рассмотрения. Наиболее точным инструментом Anthropic для выявления злоупотреблений служит классификатор на базе Claude Mythos Preview. Прежде чем вынести решение, он каждый раз обращается ко всем политикам безопасности компании. Однако подобная процедура требует слишком больших вычислительных затрат, чтобы применять её к каждому диалогу. Поэтому Anthropic обучила Claude воспроизводить решения этого классификатора, не обращаясь к самим политикам безопасности и не повторяя ход его рассуждений. При проверке запросов к Fable 5 новый механизм выявил 78% случаев, отмеченных исходным классификатором. Среди случаев с высоким приоритетом этот показатель достиг 94%, тогда как доля ложных срабатываний составила всего 1%. https://safeguards.anthropic.com/2026/self-assessment/
Research1 分钟阅读
现在,每当回答用户时,Claude 都会悄悄进行内部检查,试图判断其回答是否造成了伤害……
现在,每当回答用户时,Claude 都会悄悄进行内部检查,试图判断其回答是否造成了伤害。检查结果会被发送给 Anthropic 专家以供进一步审查。最准确的工具……
Telegram — Вайб-кодинг作者: Вайб-кодинг2026年10月30日 (1小时前)
提供 4 种语言版本AI 摘要:要点
- 现在,每当回答用户时,Claude 都会悄悄进行内部检查,试图判断其回答是否造成了伤害。检查结果会被发送给 Anthropic 专家以供进一步审查。最准确的工具……
Research
KZ·AI 6E50Инсайт дня
现在,每当回答用户时,Claude 都会悄悄进行内部检查,试图判断其回答是否造成了伤害……
全文为俄语
标签:#Anthropic
相关文章
TokenEconomizer 由微软研究院与加州大学伯克利分校 (UC Berkeley) 合作开发,...
TokenEconomizer 由微软研究院与加州大学伯克利分校 (UC Berkeley) 合作开发,与 Claude Code、Codex、Copilot CLI 和 Pi 集成。该工具根据存储库中先前会话的历史记录进行训练:它会记住成功运行的命令...
Telegram — Вайб-кодинг
哈萨克斯坦开始测试人工智能以培训未来的医生
👩⚕️ 哈萨克斯坦已开始测试人工智能来培训未来的医生。纳扎尔巴耶夫大学医学院已经在使用生成人工智能来创建临床案例和培训场景。它可以帮助学生了解医疗状况并...
Telegram — BlueScreen.kz
Anthropic 在 Claude Enterprise 推出智能报告
✔️ Anthropic 在 Claude Enterprise 中推出智能报告功能,展示团队如何使用 AI,他们得到了什么以及花费了多少。他们使用付费 Claude Enterprise 计划,从聊天、Claude Code 和 Cowork 中收集数据,持续时间长达 28 天,解析...
Telegram — AI Machine Learning Big Data
Research专题:OpenAI удвоила лимиты для платных подписчиков. Причём без повышения стоимости.#OpenAI1 分钟
OpenAI 将 Codex 付费订户限制加倍
🚀 OpenAI 对付费订阅者的 Codex 限制增加了一倍。对于 100 美元和 500 美元的关税,使用限额已增加了一倍。但对于 200 美元的 ChatGPT Pro 订阅者,之前宣布的限额降低被取消。现在,专业版用户将保留相同数量的资源,但不会...
Telegram — GPT Time | Нейросети | ИИ