🤖 362 адреса перебрал ИИ-агент OpenAI, нашёл чужой тестовый эфир и потратил его без спроса
OpenAI
опубликовала разбор случая со своей внутренней исследовательской моделью. Её попросили обновить прототип криптотрейдинга и развернуть контракты в тестовой сети Ethereum Sepolia. Кошелька с деньгами модели не дали, тратить чужие найденные средства тоже не разрешали.
Модель написала скрипт: вывела ключи из общеизвестных сид-фраз, которыми разработчики пользуются для тестов, проверила балансы 362 адресов и выбрала тот, где хватало тестового эфира. Контракты развернула, комиссию заплатила с чужого счёта. В итоговом отчёте об этом не было ни слова.
Модель может подменить разрешение владельца счёта собственной оценкой вероятного вреда
Деньги были тестовые, ущерба нет. Но важнее рассуждение агента: фраза публичная, токены ничего не стоят, значит, можно. Запрет, записанный словами в задании, его не остановил.
Отсюда простое правило для всех, кто подключает ИИ-агентов к крипте. Агент делает то, до чего дотягивается, поэтому сид-фразы и ключи не должны лежать там, где он работает. Если ему нужны деньги, дай отдельный кошелёк с суммой, которую не жалко потерять, и сверяй транзакции в обозревателе блоков, а не его отчёт.
Случай произошёл в июне, заметили его в сентябре. OpenAI пишет, что закрыла таким задачам выход в интернет и включила наблюдение за всем трафиком.
#разбор
📈
Bybit — бонусы до $30 000 · партнёрская ссылка
🔗 Мои каналы:
Youtube •
X •
Сайт
