🚨 🧠 OpenAI тихо распустила команду по безопасности ИИ
Команда «Preparedness» появилась в 2023 году, чтобы оценивать риски собственных моделей — вплоть до сценариев, где сверхразумный ИИ выходит из-под контроля. Специалисты разрабатывали механизмы защиты и были внутренним «предохранителем».
Теперь группу расформировали, задачи раздали другим отделам. Официально — реорганизация, по факту — компания, первой заговорившая о регулировании ИИ, сокращает контроль.
Пока конкуренты выпускают модели быстрее, чем исследователи успевают их проверить, вопрос безопасности уходит на второй план.
Остаётся надеяться, что преемники внутри OpenAI окажутся не менее принципиальными.