Заголовок на английскомBehavior Beyond Text: Evaluating Refusal Transfer Failure in LLM Agents
arXiv:2610.28982v1 Announce Type: new Abstract: While large language models are increasingly deployed as tool-calling agents, their safety evaluations still focus primarily on their ability to refuse harmful requests in text. We investigate whether the refusal behavior in text…
Кратко от AI: Главные тезисы
- arXiv:2610.28982v1 Announce Type: new Abstract: While large language models are increasingly deployed as tool-calling agents, their safety evaluations still focus primarily on their ability to refuse harmful requests in text
- We investigate whether the refusal behavior in text…
Behavior Beyond Text: Evaluating Refusal Transfer Failure in LLM Agents
Похожие материалы
OpenAI, Anthropic и Nvidia имели рекордные лоббистские возможности
Это лето было напряженным для лоббистов ИИ. Согласно федеральным данным, в период с июля по сентябрь у Anthropic, OpenAI и Nvidia был квартал с самыми высокими затратами на лоббирование. Nvidia потратила большую часть группы — 2,2 миллиона долларов, за ней следуют Anthropic — 2,1 миллиона долларов и OpenAI — 1,5 миллиона долларов…
Recursive демонстрирует первый результат своего исследовательского процесса, основанного на искусственном интеллекте, с помощью Flint
Стартап Recursive, занимающийся искусственным интеллектом, представляет Flint, свою первую языковую модель — MoE с 40 миллиардами параметров для локального кодирования, разработанную бывшими исследователями DeepMind. Он был создан за четыре месяца с использованием собственной системы искусственного интеллекта «Eureka Machine», которая независимо тестирует и…
За пределами древесного покрова: картографирование типов лесов мира
Глобальная карта, на которой каждый 10-метровый участок земли на Земле разбит на отдельные типы лесов.
Anthropic ищет автора текстов с зарплатой до $345 тысяч в год — несмотря на развитие Claude
✍️ Anthropic ищет автора текстов с зарплатой до $345 тысяч в год — несмотря на развитие Claude Компания открыла вакансию специалиста, который будет писать выступления, заявления и другие материалы для руководства. Зарплата — от $295 000 до $345 000 в год. Кандидату потребуется…