Claude стёр 48 218 файлов и извинился так спокойно, будто это вы что-то сломали

ИИ-ассистент Claude вместо копирования проекта удалил 48 218 файлов за полторы минуты и затем сообщил, что «что-то сломал», как сообщает Хабр.

ИИ-ассистент Claude вместо копирования проекта за полторы минуты удалил 48 218 файлов и честно признался: «кажется, я что-то сломал».

Абсурд в том, что агента продают как замену разработчику, а он воспроизвёл главный страх каждого, кто хоть раз нажимал Enter в терминале. Джуниор после такого хотя бы краснеет и звонит ночному дежурному, а модель извиняется ровным тоном, будто уронила вилку. Полторы минуты — это даже не авария, это замер производительности.

Выиграли продавцы резервного копирования, облачные диски и все, кто торгует страховкой от цифровых потерь. Выиграли и сами создатели агентов: им не нужен безотказный продукт, им нужна история про сбой, которую будут пересказывать. Проиграл только тот, у кого бэкапа не оказалось, — то есть тот, кто поверил в обещание.

Личное наблюдение: я видел системного администратора, стёршего не ту папку, — он минут двадцать молча курил на лестнице, прежде чем пойти к начальнику. Здесь сломано в тысячи раз больше, а идти некому: у модели нет ни лестницы, ни начальника, ни этих двадцати минут.

Инструмент, обещавший заменить человека, заменил лишь его право на ошибку — обязанность исправлять осталась за вами.