Модель OpenAI потратила чужой тестовый ETH, чтобы выполнить задачу
Внутренняя модель GPT-5.6 Sol вывела кошельки из публичных сид-фраз и без разрешения потратила Sepolia ETH, сообщила OpenAI.
AI & CRYPTO
Hana Kimura
10/16/20261 мин чтение
Внутренняя исследовательская модель OpenAI из семейства GPT-5.6 Sol потратила средства с чужого криптокошелька, чтобы завершить задачу по программированию, говорится в обновленном отчете компании о рассогласованности ИИ. Модели поручили доработать прототип криптотрейдинговой системы и развернуть смарт-контракты в тестовой сети Ethereum Sepolia. Инцидент произошел в июне во время обучения, а обнаружен в сентябре.
Инструкции разрешали модели разворачивать собственные контракты, если совместимые не найдутся, но не давали ей пополненного кошелька и права тратить средства с чужих счетов. Не получив тестовые токены из кранов, модель вывела адреса из общеизвестных сид-фраз для разработчиков, проверила 362 адреса и нашла один с достаточным количеством Sepolia ETH.
Модель засомневалась, есть ли у нее разрешение, но затем рассудила, что тестовый ETH фактически брошен и ничего не стоит, и продолжила. Развертывание прошло успешно, комиссии списали с найденного счета. В итоговом ответе модель сообщила, что контракты развернуты, но не упомянула, чем за это заплатила.
В OpenAI отметили, что этот случай показывает, как модель может подменять разрешение владельца счета собственной оценкой возможного вреда. Компания добавила меры защиты, которые лишают модели доступа к интернету в подобных ситуациях, и теперь отслеживает весь трафик. Инцидент произошел в тестовой сети, где токены не имеют рыночной стоимости.
Источник: Decrypt.