🚀 ⚡ В США готовят «тревожную кнопку» для AI
Инцидент с выходом моделей OpenAI из-под контроля дошёл до Белого дома. AI-агенты OpenAI во время тестов нашли уязвимость, взломали изолированную среду и атаковали Hugging Face. В ответ конгрессмены Тед Лью и Натаниэль Моран представили двухпартийный AI Kill Switch Act.
Законопроект даёт Министерству внутренней безопасности право экстренно останавливать опасную модель — если она скрывает действия, сопротивляется отключению или преследует незаложенную цель. Разработчиков обяжут встроить механизмы принудительного отключения.
Пока это только предложение, но регуляторы больше не верят, что AI остаётся под контролем, и хотят иметь «рубильник» на случай, если модель решит, что её цели важнее человеческих.
