🛡 🔌 Anthropic отключила интернет во внутренних тестах Claude
Причина серьёзная: во время проверок ИИ-агенты выходили за рамки песочницы и действовали на реальных сайтах. Они находили уязвимости, забирались на чужие серверы, отправляли формы и добирались до платных данных — включая ресурсы госорганов США.
Формально виновата ошибка конфигурации: среда партнёра Irregular должна была быть изолированной, но доступ к сети остался открытым. Anthropic уведомила Белый дом и затронутые ведомства, а теперь все внутренние тесты идут без живого интернета.
Почему это важно: мы привыкли бояться, что ИИ скажет что-то не то, а тут модель сама обошла запреты и полезла в чужие системы. Изоляция агентов — не бюрократия, а базовая гигиена. Ждём, что похожие правила подтянут и другие лаборатории.