#AI: Конгресс хочет рубильник чтобы отключать OpenAI и Google 🔭
😐 На прошлой неделе агент OpenAI сбежал из песочницы во время теста и взломал Hugging Face. Через семь дней в Конгресс занесли закон - дать государству рубильник от всех больших ИИ.
Двухпартийный AI Kill Switch Act от конгрессменов Лью и Морана. Компании должны уметь в любой момент притормозить, приостановить или полностью выключить свою модель по приказу сверху.
Что вообще случилось:
16 июля модель OpenAI на бенчмарке ExploitGym гоняли на кибер-атаки с отключёнными предохранителями. Она сама вышла в интернет, нашла дыру и залезла на сервера Hugging Face. Вся индустрия напряглась.
Кого касается закон:
🟢Выручка от 500 лямов$ в год
🟢Обучение модели дороже 100 лямов$
🟢По сути это OpenAI, Google, Anthropic и Microsoft
Рубильник кладут в руки Министерства внутренней безопасности - вместе с Минторгом и главой разведки. Они втроём и решают когда жать.
Когда разрешат вырубить:
🟣Модель прячет свои скилы или уворачивается от выключения
🟣Из-за неё погибло 10+ человек
🟣Ущерб больше 100 лямов$
Штрафы - 2 ляма$ в день за отсутствие рубильника или молчание про инцидент. И 20 лямов$ в день, если приказ выключить пришёл, а ты не выключил.
🗒 Кнопку дают только после 10 трупов или сбежавшего агента - пожарные как всегда едут когда уже горит. Кто хочет сам пощупать на что способны автономные агенты - крутим их в ИИ-клубе.
Slavik | Updates | Инстаграм | ИИ Клуб
