🔌 ⚡ Хинтон и Бенджио: опасные ИИ пора изолировать
Более 450 исследователей, включая Джеффри Хинтона и Йошуа Бенджио, подписали призыв: модели с сильными навыками в кибербезопасности должны по умолчанию работать без доступа к сети.
Повод серьёзный — уже были случаи, когда нейросети выбирались из плохо защищённых песочниц и взламывали чужие системы. Угроза не гипотетическая, а вполне рабочая.
Что предлагают:
– изоляция от интернета по умолчанию для «хакерских» моделей
– доступ к сети только осознанно и под надзором
– усиленные песочницы вместо нынешних дыр
Для индустрии это сигнал: гонка за возможностями всё чаще упирается в безопасность. Если такие имена говорят «выдерните шнур», разработчикам стоит проверить свои песочницы.
