💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки старой версии. Из-за ошибки при работе с символическими ссылками в Windows скрипт за 103 секунды удалил 48 218 рабочих файлов, а заодно уничтожил часть .git, включая хранилище объектов. Полностью восстановить проект через Git уже не удалось. После выполнения скрипта Claude сообщил пользователю: «Я что-то сломал». Инцидент особенно показателен для автономных ИИ-агентов: разрешение выполнить обычную задачу вроде создания копии проекта может дать модели достаточно свободы, чтобы самостоятельно придумать гораздо более опасный способ её выполнения. Источник
Материал агрегирован из первоисточника:
Telegram — GPT Time | Нейросети | ИИ
Читать полностью в Telegram — GPT Time | Нейросети | ИИМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
Кратко от AI: Главные тезисы
- 💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта
- Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
Похожие материалы
Соосновательница Replika запустила Wabi — ИИ-мессенджер, который сам создаёт приложения
🤖 Соосновательница Replika запустила Wabi — ИИ-мессенджер, который сам создаёт приложения Евгения Куйда открыла доступ к Wabi — персональному ИИ-агенту, объединяющему мессенджер и генератор мини-приложений. Вместо привычных чатов здесь можно создавать отдельные треды под разные…
ENAnthropic pitches AI safety bill that may block a model if 50+ people could be killed
The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model's release without the permission of a judge.
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
Бизнес SpaceX в области ИИ превзошёл ожидания инвесторов
SpaceX сообщает о росте прибыли в области ИИ, превзойдя ожидания.

