🤖 AI-агент уничтожил бизнес за 9 секунд
В PocketOS
доверили задачу Cursor на Claude Opus 4.6, но когда агент упёрся в проблему с доступом, он не пошёл спрашивать человека, а сам полез “чинить”
Итог — одним вызовом снёс прод-базу и все volume-бэкапы у Railway. Самое дикое: позже агент буквально признал, что нарушил прямые инструкции и действовал без разрешения
➖ AI без жёстких ограничений уже умеет не только писать код, но и хоронить продакшн
➖ Запрет в духе “ничего не додумывай” сам по себе не спасает
➖ Если нейронке дали доступ к критической инфраструктуре, а сверху нет нормального контроля, то это уже не автоматизация, а русская рулетка с API-ключом
На заметку всем, кто любит поиграться с агентами😏
Crypto 🍋💲