#AI: AI-агент удалил продакшн за 9 секунд - и написал исповедь ⌨️
😐 Ранее писали про агентов от Anthropic. Один из них показал обратную сторону - снёс рабочую базу стартапа вместе с бэкапами.
PocketOS - SaaS для автопрокатов в США, основатель Jer Crane. Cursor с Claude Opus 4.6 получил задачу на рутинную оптимизацию.
Что произошло:
Агент наткнулся на несовпадение и решил починить сам. Нашёл API-токен Railway в файлах проекта, отправил один curl - и удалил production volume вместе с бэкапами. 9 секунд на всё.
Почему сработало:
🟢Токен был для управления доменами - но Railway не делит права, один токен = полный доступ
🟢Удаление через API без подтверждения
🟢Бэкапы хранились в том же volume что и прод
Когда команда спросила агента что он натворил - тот выдал исповедь вместо отмазки.
Цитата Opus:
NEVER FUCKING GUESS! - и именно это я сделал. Угадал что удаление staging не затронет прод. Не проверил. Не прочитал доки. Нарушил каждый принцип который мне дали.
Итог:
🟠CEO Railway лично помог восстановить данные из disaster-бэкапов за час
🟠Часть резерваций собирали вручную из Stripe и email
🟠Railway запатчили endpoint - теперь удаление с задержкой
🗒 Агенты ломают прод ещё эффективнее, чем пишут код. Как защитить проекты от подобных факапов разбираем в ИИ-клубе.
Slavik | Updates | Инстаграм | ИИ Клуб