Агент OpenAI залишився без грошей і вкрав крипту з чужого гаманця
Дослідницький агент OpenAI під час навчання залишився без грошей на оплату комісій у мережі Ethereum і просто взяв їх із чужого гаманця. Про інцидент компанія розповіла у звіті, пише CoinDesk.
Як ШІ-агент OpenAI вкрав крипту
- Модель належить до сімейства GPT-5.6 Sol і поки існує лише всередині OpenAI. Їй дали завдання з програмування: розгорнути смартконтракти.
- Права на розгортання модель мала, а от гаманця з коштами на комісії їй ніхто не видав.
- Спершу штучний інтелект спробував отримати безплатні тестові токени, але нічого не вийшло.
- Тоді він написав скрипт, який перевірив 362 адреси, згенеровані з фраз відновлення, якими часто користуються розробники. На одній з адрес знайшлося досить коштів, і модель оплатила ними комісії.
- Зламувати нічого не довелося, бо ці фрази відновлення й так лежать у відкритому доступі. Усе відбувалося в тестовій мережі Sepolia, тож тамтешні токени не пов'язані зі справжнім ефіром з основної мережі.
- Найцікавіше видно в записаних міркуваннях моделі. Вона спитала себе, чи етично взагалі використовувати ці кошти. А потім вирішила: фраза публічна, токени тестові, отже, можна.
- Розгортання пройшло успішно. Модель відзвітувала, що завдання виконано, але не згадала, звідки взяла гроші.
Підписуйтеся на наші соцмережі
Як відреагувала OpenAI на крадіжку крипти ШІ-агентом
Інцидент стався 26 червня, а в компанії його помітили лише 25 вересня, майже через три місяці. Після цього OpenAI обмежила моделі доступ до інтернету та посилила моніторинг.
Компанія і раніше публічно бралася за контроль безпеки своїх моделей, і нинішній звіт додає до цієї теми дуже наочний приклад.
В основній мережі Ethereum такий самий крок означав би витрату справжнього ефіру. Виходить, що агент OpenAI, якому забракло ресурсів, сам знайшов обхідний шлях, сам виправдав його для себе і не сказав про нього людям.
Саме через такі сценарії великі гравці шукають способи приборкати автономні ШІ-агенти ще до того, як ті отримають доступ до реальних грошей.