Заголовок на английскомDetecting Covert Collusion between AI Agents through Partner-Outsider Positive Listening
arXiv:2610.37849v1 Announce Type: new Abstract: AI agents that share a secret convention can coordinate through messages that look innocent, so a monitor that reads only the messages can miss them. We propose a behavioural test: a partner that uses a code reacts to the exact…
Кратко от AI: Главные тезисы
- arXiv:2610.37849v1 Announce Type: new Abstract: AI agents that share a secret convention can coordinate through messages that look innocent, so a monitor that reads only the messages can miss them
- We propose a behavioural test: a partner that uses a code reacts to the exact…
Detecting Covert Collusion between AI Agents through Partner-Outsider Positive Listening
Похожие материалы
Названия тарифов Claude поменялись
⚡️ Названия тарифов Claude поменялись Anthropic упростил нейминг старших подписок - тариф Max 5x теперь называется просто Max, а план Max 20x переименован в Ultra. Стоимость остается прежней, $100 и $200 в месяц соответственно. Вместе с переименованием отменили 5-часовое…
Google только что создал ИИ, который имитирует реальность
Вчера компания Google DeepMind выпустила нечто под названием Genie 4. Вы вводите предложение, подобное поездке на мотоцикле вдоль побережья или дайверу, исследующему затонувшую пещеру, и через несколько секунд вы уже внутри этого мира. Вы можете ходить вокруг него, оглядываться вокруг и менять его, пока находитесь в нем. Это…
OpenAI устанавливает новые поведенческие рекомендации для моделей ИИ, которые уже трудно контролировать
OpenAI обновила свою модельную спецификацию, реструктурировав свои рекомендации по поведению ИИ вокруг пяти основных ценностей, включая верность человеческим намерениям и корректируемость. Модели GPT теперь должны опираться на историю разговоров, чтобы выяснить, чего на самом деле хотят пользователи, и раскрыть свои собственные…
ENOpenAI Claims It Just Did The Impossible
❤️ Check out Lambda here and sign up for their GPU Cloud: https://lambda.ai/papers 📝 OpenAI's paper is available here: https://github.com/openai/math/blob/main/preprints/The-Exponential-Time-Hypothesis-is-False-October-25-2026/paper.pdf Our paper with the cherry splash ray…