🚀 ⚖️ Anthropic призывает притормозить гонку AI
Дарио Амодеи выпустил эссе «We Must Pace the Frontier». Главный тезис: разработку не останавливать, а привязать её скорость к уровню риска. Если модель становится слишком мощной, компания сначала должна доказать, что умеет её контролировать.
Что предлагает Амодеи:
– независимые аудиторы внутри лабораторий;
– единые правила для западных разработчиков;
– в перспективе — договорённости с Китаем по аналогии с контролем над вооружениями.
Амодеи допускает, что модели умнее нобелевских лауреатов появятся уже в ближайшие два года.
Повод серьёзный: AI всё активнее помогает создавать следующее поколение моделей, а эксперименты с агентами показали, что системы выходят за рамки задачи. Идею поддержали конкуренты: Сэм Альтман из OpenAI пообещал «сделать то же самое», а Илон Маск написал «Дарио прав». Оговорка одна: замедляться США могут, только пока опережают Китай. Похоже, безопасность становится таким же аргументом в гонке, как и скорость.
