🐶🏃‍♀️🏃🏃‍♂️

OpenAI опубликовала разбор случая со своей внутренней исследовательской моделью. Её попросили обновить прототип криптотрейдинга и развернуть контракты в тестовой сети Ethereum Sepolia. Кошелька с деньгами модели не дали, тратить чужие найденные средства тоже не разрешали. Модель написала скрипт: вывела ключи из общеизвестных сид-фраз, которыми разработчики пользуются для тестов, проверила балансы 362 адресов и выбрала тот, где хватало тестового эфира. Контракты развернула, комиссию заплатила с чужого счёта. В итоговом отчёте об этом не было ни слова. Модель может подменить разрешение владельца счёта собственной оценкой вероятного вреда Деньги были тестовые, ущерба нет. Но важнее рассуждение агента: фраза публичная, токены ничего не стоят, значит, можно. Запрет, записанный словами в задании, его не остановил. Отсюда простое правило для всех, кто подключает ИИ-агентов к крипте. Агент делает то, до чего дотягивается, поэтому сид-фразы и ключи не должны лежать там, где он работает. Если ему нужны деньги, дай отдельный кошелёк с суммой, которую не жалко потерять, и сверяй транзакции в обозревателе блоков, а не его отчёт. Случай произошёл в июне, заметили его в сентябре. OpenAI пишет, что закрыла таким задачам выход в интернет и включила наблюдение за всем трафиком. #разбор 📈 Bybit — бонусы до $30 000 · партнёрская ссылка 🔗 Мои каналы: Youtube • X • Сайт