Do Frontier Models Seek Safety Evidence Before Acting?
Frontier models are often evaluated on how they respond to safety information once it is already in context. We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting. We introduce SAFE, a controlled benchmark in which models…
- 01.Frontier models are often evaluated on how they respond to safety information once it is already in context
- 02.We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting
- 03.We introduce SAFE, a controlled benchmark in which models…
This material is provided as an extended analytical summary.
Read full article at sourceRelated Intelligence
All stories →我刚接手一个复杂项目，每次让 Claude Code 稍微修改一个函数，它就……
我刚接手一个复杂项目，每次让 Claude Code 稍微修改一个函数，它都得重新解析几乎整个项目的代码。对话进行到一半时上下文已溢出，不得不重新解释项目结构。命令……
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот ...
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот неспроста показывает ему таргетированную рекламу. 🙅 По его словам, в ходе исследования он обнаружил множество механизмов слежения и сбора телеметрии, включая…
NVIDIA 在 HackAlem AI 上表彰三支团队，奖励其在人工智能领域的开发成果
在阿斯塔纳举行的 AI Month 期间，举办了最大规模 AI 黑客马拉松 HackAlem AI 的颁奖典礼。该活动被纳入 NVIDIA 创始人兼 CEO 黄仁勋 访问哈萨克斯坦的行程。黑客马拉松获奖者获得了与黄仁勋 亲自会面的机会，并……