🚨 🤖 Исследователь ИИ уволился и предупреждает о конце света
Джейкоб Коксон, экс-сотрудник OpenAI и Anthropic, публично заявил: ведущие лаборатории участвуют в гонке за созданием самоулучшающегося сверхинтеллекта, который может уничтожить человечество к концу десятилетия.
Его поддерживают действующие сотрудники. Специалист Anthropic по AI-безопасности Эван Хубингер оценивает шанс гибели цивилизации от ИИ в ближайшие 10 лет более чем в 10% и признаёт: готового решения проблемы безопасности сверхинтеллекта нет.
Парадокс в том, что все понимают риски, но продолжают гонку из страха, что кто-то другой успеет первым. Причём Anthropic основал экс-глава исследований OpenAI Дарио Амодей, ушедший из-за разногласий — теперь его бывшие коллеги повторяют этот путь.
Индустрия буквально разрывается между амбициями и экзистенциальным страхом. И это, пожалуй, самый честный сигнал о том, что происходит внутри лабораторий прямо сейчас.