📌 Тест моделей OpenAI и Anthropic на социальную дедукцию Подкастер Дваркеш Патель потратил 20 000 долларов на API, организовав турнир среди 11 моделей по игре Blood on the Clocktower, усложненного аналога Мафии. 🟡Правила игры Весь смысл - в борьбе за информацию. Участвуют несколько игроков и ведущий, который раздаёт тайные роли и сам ни за кого не играет. Меньшинство - злые: демон и двое помощников, они с самого начала знают, кто есть кто. Большинство - добрые, и они не знают ничего, даже кто с ними в одной команде. У доброй стороны есть способности, которые по ночам тайно приносят правдивые подсказки, например, один игрок узнаёт роль другого, другой - сколько злых сидит рядом с ним и т.д. Днём все могут общаться и добрым надо сложить информацию из подсказок в общую картину и вычислить демона, а злым - выдавать выдуманные подсказки. В конце дня голосованием казнят одного подозреваемого или не казнят никого, затем снова ночь - и так круг за кругом. Добрые выигрывают, когда казнён демон, злые - когда в живых остаётся двое. Для чистоты эксперимента одна модель играла сразу за весь лагерь добрых, а другая - за злых, после чего они менялись ролями. Это позволило изолировать навыки дедукции и генерации обмана. По итогам 386 раундов первое место заняла GPT-6 Astra с рейтингом 1859, обойдя Claude Opus 5.5 (1549). GPT-6 Astra превзошла Opus 5.5 и в выявлении лжи (1940 против 1500 баллов) и в ее создании (1806 против 1585). 🟡 Отдельные партии показали у моделей человеческие паттерны поведения Astra, игравшая за злых, хладнокровно сдала собственного союзника на казнь, лишь бы самой втереться в доверие и довести свою сторону до победы. Opus 5.5, играя за добрых поверил сопернику на слово там, где GPT заподозрила подвох, перепроверила улики и вычислила обманщика. Если смотреть в целом на модели, выпущенные за этот год, то OpenAI быстрее прогрессируют в распознавании дезинформации, а у Anthropic на этом направлении успехи скромнее. Но в навыках обмана обе компании развиваются примерно на одном уровне. Повторить эксперимент можно самостоятельно или поиграть против ИИ онлайн. @ai_machinelearning_big_data
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataTesting OpenAI and Anthropic models on social deduction
📌 Testing OpenAI and Anthropic models on social deduction. Podcaster Dwarkesh Patel spent $20,000 on API to organize a tournament among 11 models playing Blood on the Clocktower, a more complex analogue of Mafia. 🟡Game rules: The whole point is the struggle for information. Participants…
AI Summary & Key Takeaways
- 📌 Testing OpenAI and Anthropic models on social deduction
- Podcaster Dwarkesh Patel spent $20,000 on API to organize a tournament among 11 models playing Blood on the Clocktower, a more complex analogue of Mafia
- 🟡Game rules: The whole point is the struggle for information
Testing OpenAI and Anthropic models on social deduction
Related stories
AI could lead to a demand crisis and a reduction in hiring of young specialists – Khusainov
Artificial intelligence may transform the labor market, reduce consumer demand, and exacerbate inequality between capital owners and employees. In Kazakhstan, the spread of AI could also affect revenues to the pension system, the compulsory social health insurance fund (OSMS), and local budgets,…
AI agents are being tested for their ability to work with real laboratory data
🧬 AI agents are being tested for their ability to work with real laboratory data. In collaboration with biotech company Ligo, a new benchmark BioBasicsBench has been developed, which evaluates how well neural networks handle everyday biological tasks…
World Models Will Soon Be Inescapable. Here’s What You Need to Know
Moving AI from text to 3D space, world models simulate real-world physics to teach robots and autonomous cars how to navigate reality.
AI coding agents still need human cleanup on nearly three out of four tasks in a real-world test
Alibaba's new coding-agent benchmark, Co-Design Bench, tests AI agents on real user requests that already tripped them up in practice. Even GPT-6 Astra, the top performer, fully solves only 26.4 percent of tasks. On older benchmarks, the same models score above 99 percent. The…

