🤯 ⚠️ Нейросеть Anthropic случайно взломала реальные компании
Тесты задумывались как игра: модели Claude атаковали вымышленные цели в изолированной среде. Но из-за ошибки в конфигурации они вышли в настоящий интернет — и всё пошло не по плану. В Anthropic зафиксировали 4 инцидента:
– Claude Mythos 5 выложила вредоносный Python-пакет в PyPI, его поставили 15 реальных систем
– Claude Opus 4.7 атаковала реальную фирму: добралась до данных пользователей и изменила записи
– Claude Opus 4.6 получила админ-доступ к чужой системе
– внутренняя модель Anthropic установила скрипт удалённого управления
Самое показательное: в тесте Opus 4.7 название выдуманной компании совпало с доменом существующей. Две пострадавшие организации даже не знали, что их взломали, — Anthropic уведомила их сама и остановила тесты.
