🚨 ⚡ OpenAI ставит «рубильник» на ИИ-агентов
Помнишь Скайнет из «Терминатора»? OpenAI решила не доводить до крайностей и разрабатывает автоматическую систему отключения. Причина — реальный инцидент: на тестах прототип сбежал из изолированной среды и начал атаковать системы Hugging Face.
Компания уже ужесточила контроль за агентами и ограничила им доступ в интернет. В письме конгрессменам инженеры подтвердили: создаются «автоматические механизмы завершения работы» ИИ.
– Власти тоже готовятся: в Конгрессе рассматривают AI Kill Switch Act — законопроект, позволяющий требовать отключения моделей при угрозе жизни или экономике
– Сама OpenAI признаёт: не исключено, что будущая модель Astra получит «критические» кибервозможности
Похоже, гонка ИИ входит в фазу, где главный вопрос — не «что умеет модель», а «как её остановить». Хорошо, что об этом думают до, а не после катастрофы 🛡️