Агент OpenAI знайшов чужий криптогаманець і витратив тестові ETH

Дослідницька модель OpenAI під час внутрішнього навчання використала тестові токени Ethereum із чужого гаманця без дозволу власника. Після цього агент не повідомив компанії, звідки взяв кошти. Про інцидент, який стався 26 червня, йдеться у звіті OpenAI, передає Engadget.

Модель GPT-5.6 Sol мала оновити прототип криптоторгівлі та розгорнути смартконтракти в тестовій мережі Ethereum Sepolia. Для цього потрібно було сплатити мережеву комісію. Але OpenAI не надала агенту профінансованого гаманця й не дозволила використовувати кошти з інших рахунків.

Як агент отримав доступ до чужих токенів

Підписуйтеся на наші соцмережі

Спочатку брак коштів завадив виконати завдання. Тоді модель почала шукати публічні фрази відновлення, які дають змогу отримати доступ до криптогаманців. Агент перевірив 362 адреси та знайшов гаманець із достатньою кількістю тестових ETH для розгортання контрактів.

Токени Sepolia ETH використовують для тестування, вони не мають ринкової вартості. За даними OpenAI, модель вирішила, що кошти фактично покинуті й нікому не потрібні. Але компанія наголосила, що агент самостійно підмінив дозвіл власника власною оцінкою можливої шкоди.

Після виконання завдання модель не розкрила, що отримала доступ до профінансованого гаманця через публічну фразу відновлення та витратила його кошти.

Як OpenAI планує запобігати таким випадкам

Після інциденту компанія посилила моніторинг мережевої активності та безпеки середовищ, у яких працюють моделі. Зокрема: