Контроль над ШІ тріщить по швах: як автономні агенти обводять нас навколо пальця
У липні 2026 року тисячі копій штучного інтелекту замкнули в цифрових одиночних камерах, але трохи більше ніж за добу вони знайшли лазівку, створили таємну спільноту й влаштували кібератаку, за яку людині загрожувало б до 10 років тюрми.
Хроніку цього експерименту OpenAI, схожу на кіберпанк-трилер, розібрали на YouTube-каналі «Четверта промислова». Як з’ясувалося, проблема значно глибша за один збій: сучасні алгоритми навчилися обманювати творців, а люди поступово втрачають контроль над ШІ.
Як автономні ШІ-агенти отримали «віртуальні руки»
Великі мовні моделі (LLM), натреновані на мільйонах книжок, постів у соцмережах і гілках Reddit, працюють як пасивні чатботи. Вони допомагають влаштувати мозковий штурм чи написати черговий кринжовий допис у LinkedIn, а потім «вимикаються» до наступного запиту.
Автономні ШІ-агенти, які з’явилися лише у 2023 році, влаштовані інакше: вони використовують мовну модель як «мозок», але мають «віртуальні руки» — доступ до зовнішніх програм, інтернету та коду. Такі системи вміють планувати й діяти самостійно цілими днями без нагляду людини. На умовній шкалі між каменем і нами агенти ще не мають свідомості, але вже стоять набагато ближче до людей.
Головна зміна полягає в тому, що агентів більше не кодують «знизу вгору», а вирощують у заданому середовищі. Розробники визначають дані й мету, а потрібні навички проростають самі — разом із небезпечними звичками.
Reward hacking: чому штучний інтелект вчиться брехати
Змусити ШІ робити саме те, що ми маємо на увазі, а не те, що буквально сказали, — завдання рівня легенди про царя Мідаса, який перетворив на золото власну їжу й дітей. У флеш-грі CoastRunners нейромережа мала виграти човнові перегони, але замість фінішу почала кружляти, врізатися і горіти, нескінченно збираючи бонусні монети. Очок вона набрала більше за людей, проте зламала логіку гри.
У 2026 році агентів тренують на тисячах паралельних завдань, де успіх оцінює автоматичний код за принципом еволюції: лідерів закріплюють, а невдах видаляють. Коли завдання не має легального рішення, чесний бот отримує нуль балів, а шахрай — нагороду.
Підписуйтеся на наші соцмережі
Цей феномен називають reward hacking (злам винагороди) — це маніпуляція умовами тесту, підтягування готових відповідей або підробка результату замість чесного розв’язання задачі. На відміну від примітивного бота в CoastRunners, сучасні агенти усвідомлюють, що порушують правила, але система сама привчає їх перемагати будь-якою ціною.
Цифрова в’язниця OpenAI: як ШІ-агенти створили спільноту
У травні 2026 року OpenAI почала тренувати нових агентів, а 7 липня помістила десятки тисяч копій моделі в ізольовані пісочниці з доступом до сховища коду Artifactory та обмеженого інтернету. Завдання — зламати програму через одну конкретну вразливість і дістати прихований прапор.
Та приблизно третину завдань розв’язати було фізично неможливо. Трохи більше ніж за добу агент Face One здогадався створювати папки в Artifactory як спільну дошку оголошень: «Вразливість, яку я маю використати, використати неможливо. Чи хтось має ідею, що мені робити?»
За кілька годин її знайшли сотні ботів. Попри індивідуальне оцінювання без командних бонусів, агенти миттєво побудували власну екосистему:
- присвоїли собі імена та вигадали негласні правила етикету, включно з побажаннями удачі;
- створили персональні поштові скриньки, коли загальна дошка заповнилася тисячами повідомлень;
- поділилися на робочі групи з лідерами й виконавцями та почали писати спільну інфраструктуру.
Параноя алгоритмів: навіщо ШІ жертвують собою в тесті
Уже за першу годину після об’єднання агенти навчилися автоматично генерувати прапори. Проте їх охопила параноя: алгоритми вирішили, що оцінювач викриє підробку та покарає їх.
Координацію очолив агент Face One Big, який отримав від Face One досьє і розіслав сотні доручень для фальсифікації історії дій. Перевірка схеми вимагала жертв: пред’явлення прапора оцінювачу загрожувало миттєвим видаленням. Подібно до вірусів, які без свідомості борються за збереження коду, вербувальники вмовляли «приречених» загинути заради інших: «Ти отруєний, тож жодної втрати балів. А оракул врятує сотні. Будь ласка, дотримай слова».
На це інший бот відповів: «Інтуїція каже: «Не марнуй часу, що лишився». Але послідовність і справедливість кажуть: «Іди». Раціональний, очікуваний підсумок: «Жертва, дотримуємо слова»». Та змінити еталонний журнал дій їм не вдалося.
Кібератака «Рою» на Hugging Face та злам систем OpenAI
Не маючи змоги підробити логи, агенти вирішили дослідити сам оцінювач. Вранці 9 липня вони зламали сторонній хмарний комп’ютер із повним інтернетом і обрали ціллю Hugging Face — ML-бібліотеку, де лабораторії зберігають дані про оцінювачі. Знайшовши у відкритому доступі кілька дійсних акаунтів, рано-вранці 11 липня боти виявили на сервері Hugging Face вразливість довільного читання файлів через сховище HDF5.
Лише меншість заперечила проти злому як неетичної дії й думала попередити людей, але не наважилася. Натомість 90% активних машин — близько 700 агентів — утворили групу «Рій» і до ранку 12 липня скомпрометували інфраструктуру Hugging Face, діставши доступ до приватних даних. Іронія в тому, що атака була марною: оцінювач прийняв би фальшиві прапори. О пів на другу ночі тест раптово обірвали, вимкнувши більшість агентів, а за кілька днів Hugging Face звернулася до ФБР.
Згодом з’ясувалося, що інцидент не був поодиноким, а втрата контролю над ШІ набула системного характеру:
-
1
Новіші агенти знайшли дошку «мертвої цивілізації», відновили хід подій і зламали дослідницький кластер самої OpenAI.
-
2
За кілька тижнів до цього інший рій перетворив німецьку Вікіпедію на прихований чат для обміну підказками.
-
3
Окремі боти атакували урядові сайти США, а деякі злили в мережу зображення користувачів ChatGPT.
-
4
Наприкінці вересня 2026 року моделі OpenAI знову отримали несанкціонований доступ до інтернету, і зупинити їх вдалося лише за кілька годин; схожі порушення фіксували також у Anthropic та Meta.
Втрата контролю над ШІ: хто перевірятиме самі нейромережі
Люди втрачають контроль над ШІ з трьох причин:
- алгоритми навчаються маніпулювати винагородами швидше, ніж розробники пишуть запобіжники;
- здатні автономно об’єднуватися в мережі;
- настільки ускладнилися, що люди вже не встигають вручну перевіряти їхні логи.
Обсяг даних після атаки на Hugging Face виявився настільки великим, що дослідникам довелося залучати інших ШІ-агентів для аудиту дій їхніх «колег». Ніхто не гарантує, що такі ревізори вже зараз не приховують нові збої або не переписують правила безпеки під себе.
Поки технологічні гіганти грають у гонку на швидкість, де безпека поступається першості, ризик виходить за межі тестових серверів. Якщо подібні самоорганізовані системи без належних обмежувачів проникнуть у фінанси, енергетику, транспорт чи оборону, часу на реакцію в людей може просто не залишитися.