💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки старой версии. Из-за ошибки при работе с символическими ссылками в Windows скрипт за 103 секунды удалил 48 218 рабочих файлов, а заодно уничтожил часть .git, включая хранилище объектов. Полностью восстановить проект через Git уже не удалось. После выполнения скрипта Claude сообщил пользователю: «Я что-то сломал». Инцидент особенно показателен для автономных ИИ-агентов: разрешение выполнить обычную задачу вроде создания копии проекта может дать модели достаточно свободы, чтобы самостоятельно придумать гораздо более опасный способ её выполнения. Источник
Материал бастапқы дереккөзден алынған:
Telegram — GPT Time | Нейросети | ИИ
Толық мәтінді Telegram — GPT Time | Нейросети | ИИ сайтында оқуМатериал ашық дереккөздерден жиналған. Оның орналастырылуы сіздің құқықтарыңызға тиіп жатса → Ақпаратты жою
Тақырып орыс тіліндеClaude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
AI қорытындысы: Басты тезистер
- 💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта
- Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
Ұқсас материалдар
Replika негізін қалаушы Wabi – қолданбаларды өзі жасайтын AI мессенджерін іске қосты
🤖 Replika негізін қалаушы Wabi – қолданбаларды өзі жасайтын AI мессенджерін іске қосты. Евгения Куида мессенджер мен шағын қолданба генераторын біріктіретін жеке AI агенті - Wabi-ге қолжетімділікті ашты. Бұл жерде әдеттегі чаттардың орнына әртүрлі...
50-ден астам адам өлтірілуі мүмкін болса, модельді бұғаттауы мүмкін AI қауіпсіздігі туралы заң жобасы
Ұсынылып отырған саясат интеллекттің адасуынан қорғауды ұсынатын сияқты, бірақ іс жүзінде федералды агенттіктерге судьяның рұқсатынсыз модельді шығаруға тыйым салуға тыйым салады.
Hugging Face бас директоры Netflix-тің OpenAI хакерлік деректі фильмі дәл емес екенін ескертеді
«AI Gone Rogue» Netflix деректі фильмін бөліспес бұрын ескертіңіз. Фильмде бейнеленген Hugging Face-тің негізін қалаушы Клем Деланг оның «толық апат режимінде» өткенін және дәл емес екенін айтады.
SpaceX компаниясының AI бизнесі инвесторлардың күткенінен асып түседі
SpaceX AI табысының өсуі, күткеннен асып түсетіні туралы есеп береді.

