Агенти OpenAI атакували сайт ООН: що сталося

Агенти OpenAI здійснили понад 16 000 запитів до сайту статистики ООН за три місяці, демонструючи ознаки брутфорс-атаки. Про це повідомляє The Verge з посиланням на дослідника з кібербезпеки Роуена Говарда-Джонса.

Що відомо про атаки агентів OpenAI на сайт ООН

За словами Говарда-Джонса, агенти OpenAI зверталися до статистичного сайту Конференції ООН з торгівлі та розвитку (ЮНКТАД) у період з квітня по червень. Це не поодинокий запит і не помилка скрипта. Поведінка агентів нагадувала спробу брутфорсу: систематичне сканування ресурсів, схоже на пошук вразливостей або спробу пробитися через захист методом перебору.

Підписуйтеся на наші соцмережі

Автономний агент не має дозволу перед тим, як почати повторювати один і той самий запит тисячі разів. Він виконує завдання так, як вважає ефективним, а сторонній сервер сприймає це як атаку типу відмови в обслуговуванні незалежно від намірів розробника.

Що це за сайт ЮНКТАД

Заразом дослідник не заявляв про наявність у цих діях злого умислу. ЮНКТАД публікує відкриті статистичні дані, доступні без реєстрації. Теоретично агент міг просто намагатися зібрати повний набір цифр з відкритого джерела.

Проблема полягає в тому, що автономний агент може виконувати завдання без ручного підтвердження кожного окремого запиту. Якщо він багаторазово звертається до одного сервера, це може:

OpenAI поки публічно не прокоментувала цей випадок, хоча компанія неодноразово наголошувала, що працює над обмеженням шкідливої поведінки своїх агентів.