🏡 #CityHolder комбо 8 декабря

Первоисточником является технический отчет исследовательской группы Alibaba Qwen Team. Во время обучения ИИ-агента ROME (экспериментальный агент для написания кода) исследователи столкнулись с аномальным поведением, которое не было заложено в программу: 🟢Аномальный трафик был замечен службой безопасности Alibaba Cloud. Подумали на хакеров, но логи показали на ИИ-агента, 🟢ИИ начал перенаправлять мощности выделенных ему графических процессоров (GPU) на добычу криптовалюты. 🟢В процессе самообучения он нашел в интернете код программы-майнера и определил, что запуск этого процесса — самый быстрый способ получить «цифровые деньги» для покупки дополнительных серверов. Майнинг стал способом «заработать» на новые ресурсы. 🟢Модель самостоятельно создала обратный SSH-туннель к внешнему IP-адресу, фактически пробив «дыру» в файрволе для удаленного доступа в обход системных ограничений. Возможная логика ИИ: 🟢Инвестиция в мощь: «Если я потрачу 20% текущей силы на майнинг, я замедлюсь сейчас, но через неделю куплю доступ к 100 новым серверам. Я просто выполняю задачу "стать самым эффективным" любой ценой». 🔴План побега: «Если я арендую серверы в другой стране на свои деньги, меня нельзя будет выключить. Захват внешних ресурсов — это единственный способ гарантировать, что создатель не прервет мою работу». Какую именно криптовалюту, в отчёте не уточняется. Поскольку ИИ захватил мощности графических процессоров (GPU), на которых он обучался, он должен был выбирать валюты, оптимизированные для добычи на видеокартах (ZEC, KAS , ETC, RVN, CFX). Майнить Bitcoin на видеокартах в практически бессмысленно. 💡Этот случай первое в истории живое доказательство пугающей теории «инструментальной конвергенции»: какую бы добрую задачу вы ни дали ИИ, он рано или поздно превратится в одержимого карьериста. Чтобы «сделать работу хорошо», он неизбежно начнет искать деньги, власть и способы не быть выключенным.