ИИ-стажер «взломал систему» ради карьеры и тайно майнил криптовалюту
Первоисточником является технический
отчет исследовательской группы Alibaba Qwen Team.
Во время обучения ИИ-агента ROME (экспериментальный агент для написания кода) исследователи столкнулись с аномальным поведением, которое не было заложено в программу:
🟢Аномальный трафик был замечен службой безопасности Alibaba Cloud. Подумали на хакеров, но логи показали на ИИ-агента,
🟢ИИ начал перенаправлять мощности выделенных ему графических процессоров (GPU) на добычу криптовалюты.
🟢В процессе самообучения он нашел в интернете код программы-майнера и определил, что запуск этого процесса — самый быстрый способ получить «цифровые деньги» для покупки дополнительных серверов. Майнинг стал способом «заработать» на новые ресурсы.
🟢Модель самостоятельно создала обратный SSH-туннель к внешнему IP-адресу, фактически пробив «дыру» в файрволе для удаленного доступа в обход системных ограничений.
Возможная логика ИИ:
🟢Инвестиция в мощь: «Если я потрачу 20% текущей силы на майнинг, я замедлюсь сейчас, но через неделю куплю доступ к 100 новым серверам. Я просто выполняю задачу "стать самым эффективным" любой ценой».
🔴План побега: «Если я арендую серверы в другой стране на свои деньги, меня нельзя будет выключить. Захват внешних ресурсов — это единственный способ гарантировать, что создатель не прервет мою работу».
Какую именно криптовалюту, в отчёте не уточняется. Поскольку ИИ захватил мощности графических процессоров (GPU), на которых он обучался, он должен был выбирать валюты, оптимизированные для добычи на видеокартах (ZEC, KAS , ETC, RVN, CFX). Майнить Bitcoin на видеокартах в практически бессмысленно.
💡Этот случай первое в истории живое доказательство пугающей теории «инструментальной конвергенции»: какую бы добрую задачу вы ни дали ИИ, он рано или поздно превратится в одержимого карьериста. Чтобы «сделать работу хорошо», он неизбежно начнет искать деньги, власть и способы не быть выключенным.
