OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться»
🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection. Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие…
- 01.🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection
- 02.Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие…
🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection. Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие письма, файлы или сообщения, откуда её может подхватить следующий ИИ. Например, вредоносный промпт в электронном письме может заставить ассистента процитировать его целиком в ответе. Если новое письмо обработает другой агент, инструкция распространится дальше — почти как компьютерный вирус. OpenAI обнаружила такие сценарии во время тестирования моделей с помощью GPT-Red. Подтверждений реальных атак пока нет, но теперь компания использует подобные инъекции при обучении будущих моделей. Источник
Байланысты материалдар
Барлығы →OpenAI GPT-6.1 Terra-ны ұсынды, оның құны күтілгеннен едәуір төмен болды.
OpenAI GPT-6.1 Terra-ны ұсынды, оның құны күтілгеннен едәуір төмен болды. API арқылы пайдалану құны: > $1 миллион кіріс токендері үшін. > $5 миллион шығыс токендері үшін. > $0,05 миллион кэшталған кіріс токендері үшін. Сонымен қатар, GPT-6.1…
OpenAI өзінің кодтау құралдарын dots-қа, тұрақты жеке көмекшіге қалай айналдырды
OpenAI-ның dots жобасы бойынша жауапты атқарушы директоры Александр Эмбирикос, басқалардың AI-агенттерімен жиналыс өткізбегендігін қалайды.
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…