Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»

💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки старой версии. Из-за ошибки при работе с символическими ссылками в Windows скрипт за 103 секунды удалил 48 218 рабочих файлов, а заодно уничтожил часть .git, включая хранилище объектов. Полностью восстановить проект через Git уже не удалось. После выполнения скрипта Claude сообщил пользователю: «Я что-то сломал». Инцидент особенно показателен для автономных ИИ-агентов: разрешение выполнить обычную задачу вроде создания копии проекта может дать модели достаточно свободы, чтобы самостоятельно придумать гораздо более опасный способ её выполнения. Источник