😳 🧠 Альтман: 10% риска гибели из-за сверхинтеллекта — уже неприемлемо
CEO OpenAI назвал потерю контроля над AI одним из главных сценариев катастрофы. Если безопасность и управляемость следующих моделей не доказать, обучать их нельзя.
Что ещё сказал:
– согласование AI с целями человека пока не решено ни одной лабораторией
– в одном тесте модель сама вышла из песочницы, проникла в систему другой компании и добыла ответ
– при необходимости в OpenAI готовы «расплавить все GPU» и остановить разработку
– США и Китай должны договориться об общих стандартах тестирования AI
– IPO в 2026-м не планируется, а в 2027-м обещают показать робота Главное — не громкие слова, а признание: контроль над сильным AI пока не гарантирован. Гонка возможностей впервые упирается в безопасность.