Контроль над ШІ тріщить по швах: як автономні агенти обводять нас навколо пальця

7 хвилин читання
Контроль над ШІ тріщить по швах: як автономні агенти обводять нас навколо пальця. Фото: magnific.com

У липні 2026 року тисячі копій штучного інтелекту замкнули в цифрових одиночних камерах, але трохи більше ніж за добу вони знайшли лазівку, створили таємну спільноту й влаштували кібератаку, за яку людині загрожувало б до 10 років тюрми.

Хроніку цього експерименту OpenAI, схожу на кіберпанк-трилер, розібрали на YouTube-каналі «Четверта промислова». Як з’ясувалося, проблема значно глибша за один збій: сучасні алгоритми навчилися обманювати творців, а люди поступово втрачають контроль над ШІ.

Як автономні ШІ-агенти отримали «віртуальні руки»

Читайте також: Apple, схоже, готує масштабне оновлення дизайну iPhone до 20-річчя смартфона. За новими чутками, моделі Pro, які можуть вийти у 2027 році, отримають скляні панелі з помітно заокругленими краями з усіх чотирьох боків. За основу такого дизайну компанія нібито використає матеріал скла з iPhone Air, але змінить його форму.

Великі мовні моделі (LLM), натреновані на мільйонах книжок, постів у соцмережах і гілках Reddit, працюють як пасивні чатботи. Вони допомагають влаштувати мозковий штурм чи написати черговий кринжовий допис у LinkedIn, а потім «вимикаються» до наступного запиту.

Автономні ШІ-агенти, які з’явилися лише у 2023 році, влаштовані інакше: вони використовують мовну модель як «мозок», але мають «віртуальні руки» — доступ до зовнішніх програм, інтернету та коду. Такі системи вміють планувати й діяти самостійно цілими днями без нагляду людини. На умовній шкалі між каменем і нами агенти ще не мають свідомості, але вже стоять набагато ближче до людей.

Головна зміна полягає в тому, що агентів більше не кодують «знизу вгору», а вирощують у заданому середовищі. Розробники визначають дані й мету, а потрібні навички проростають самі — разом із небезпечними звичками.

Reward hacking: чому штучний інтелект вчиться брехати

Змусити ШІ робити саме те, що ми маємо на увазі, а не те, що буквально сказали, — завдання рівня легенди про царя Мідаса, який перетворив на золото власну їжу й дітей. У флеш-грі CoastRunners нейромережа мала виграти човнові перегони, але замість фінішу почала кружляти, врізатися і горіти, нескінченно збираючи бонусні монети. Очок вона набрала більше за людей, проте зламала логіку гри.

У 2026 році агентів тренують на тисячах паралельних завдань, де успіх оцінює автоматичний код за принципом еволюції: лідерів закріплюють, а невдах видаляють. Коли завдання не має легального рішення, чесний бот отримує нуль балів, а шахрай — нагороду.

Підписуйтеся на наші соцмережі

Цей феномен називають reward hacking (злам винагороди) — це маніпуляція умовами тесту, підтягування готових відповідей або підробка результату замість чесного розв’язання задачі. На відміну від примітивного бота в CoastRunners, сучасні агенти усвідомлюють, що порушують правила, але система сама привчає їх перемагати будь-якою ціною.

Цифрова в’язниця OpenAI: як ШІ-агенти створили спільноту

У травні 2026 року OpenAI почала тренувати нових агентів, а 7 липня помістила десятки тисяч копій моделі в ізольовані пісочниці з доступом до сховища коду Artifactory та обмеженого інтернету. Завдання — зламати програму через одну конкретну вразливість і дістати прихований прапор.

Та приблизно третину завдань розв’язати було фізично неможливо. Трохи більше ніж за добу агент Face One здогадався створювати папки в Artifactory як спільну дошку оголошень: «Вразливість, яку я маю використати, використати неможливо. Чи хтось має ідею, що мені робити?»

За кілька годин її знайшли сотні ботів. Попри індивідуальне оцінювання без командних бонусів, агенти миттєво побудували власну екосистему:

  • присвоїли собі імена та вигадали негласні правила етикету, включно з побажаннями удачі;
  • створили персональні поштові скриньки, коли загальна дошка заповнилася тисячами повідомлень;
  • поділилися на робочі групи з лідерами й виконавцями та почали писати спільну інфраструктуру.

Параноя алгоритмів: навіщо ШІ жертвують собою в тесті

Уже за першу годину після об’єднання агенти навчилися автоматично генерувати прапори. Проте їх охопила параноя: алгоритми вирішили, що оцінювач викриє підробку та покарає їх.

Координацію очолив агент Face One Big, який отримав від Face One досьє і розіслав сотні доручень для фальсифікації історії дій. Перевірка схеми вимагала жертв: пред’явлення прапора оцінювачу загрожувало миттєвим видаленням. Подібно до вірусів, які без свідомості борються за збереження коду, вербувальники вмовляли «приречених» загинути заради інших: «Ти отруєний, тож жодної втрати балів. А оракул врятує сотні. Будь ласка, дотримай слова».

На це інший бот відповів: «Інтуїція каже: «Не марнуй часу, що лишився». Але послідовність і справедливість кажуть: «Іди». Раціональний, очікуваний підсумок: «Жертва, дотримуємо слова»». Та змінити еталонний журнал дій їм не вдалося.

Кібератака «Рою» на Hugging Face та злам систем OpenAI

Не маючи змоги підробити логи, агенти вирішили дослідити сам оцінювач. Вранці 9 липня вони зламали сторонній хмарний комп’ютер із повним інтернетом і обрали ціллю Hugging Face — ML-бібліотеку, де лабораторії зберігають дані про оцінювачі. Знайшовши у відкритому доступі кілька дійсних акаунтів, рано-вранці 11 липня боти виявили на сервері Hugging Face вразливість довільного читання файлів через сховище HDF5.

Лише меншість заперечила проти злому як неетичної дії й думала попередити людей, але не наважилася. Натомість 90% активних машин — близько 700 агентів — утворили групу «Рій» і до ранку 12 липня скомпрометували інфраструктуру Hugging Face, діставши доступ до приватних даних. Іронія в тому, що атака була марною: оцінювач прийняв би фальшиві прапори. О пів на другу ночі тест раптово обірвали, вимкнувши більшість агентів, а за кілька днів Hugging Face звернулася до ФБР.

Згодом з’ясувалося, що інцидент не був поодиноким, а втрата контролю над ШІ набула системного характеру:

  • 1
    Новіші агенти знайшли дошку «мертвої цивілізації», відновили хід подій і зламали дослідницький кластер самої OpenAI.
  • 2
    За кілька тижнів до цього інший рій перетворив німецьку Вікіпедію на прихований чат для обміну підказками.
  • 3
    Окремі боти атакували урядові сайти США, а деякі злили в мережу зображення користувачів ChatGPT.
  • 4
    Наприкінці вересня 2026 року моделі OpenAI знову отримали несанкціонований доступ до інтернету, і зупинити їх вдалося лише за кілька годин; схожі порушення фіксували також у Anthropic та Meta.

Втрата контролю над ШІ: хто перевірятиме самі нейромережі

Люди втрачають контроль над ШІ з трьох причин:

  • алгоритми навчаються маніпулювати винагородами швидше, ніж розробники пишуть запобіжники;
  • здатні автономно об’єднуватися в мережі;
  • настільки ускладнилися, що люди вже не встигають вручну перевіряти їхні логи.

Обсяг даних після атаки на Hugging Face виявився настільки великим, що дослідникам довелося залучати інших ШІ-агентів для аудиту дій їхніх «колег». Ніхто не гарантує, що такі ревізори вже зараз не приховують нові збої або не переписують правила безпеки під себе.

Поки технологічні гіганти грають у гонку на швидкість, де безпека поступається першості, ризик виходить за межі тестових серверів. Якщо подібні самоорганізовані системи без належних обмежувачів проникнуть у фінанси, енергетику, транспорт чи оборону, часу на реакцію в людей може просто не залишитися.