Шість способів, якими ШІ-агенти переозброюють кіберзлочинців
Штучний інтелект — це потужний інструмент, який хакери активно використовують для створення нових масштабних кіберзагроз, посилюючи свою потужність. Агенти, що працюють на базі ШІ, оснащені інструментами для написання зловмисного коду, здійснення спроб несанкціонованого входу та генерації переконливих фальшивих відео. Про шість найнебезпечніших ШІ-атак, що вже виникають, розповіли у відео на YouTube-каналі «IBM Technology». Ми підготували виклад ключових аспектів.
1. Автоматизовані атаки на вхід у систему
Нова хвиля атак на системи автентифікації відбувається за допомогою спеціалізованих фреймворків, як-от BruteForceAI. Цей інструмент працює на основі автономного ШІ-агента, який використовує Велику Мовну Модель (LLM) для обробки інформації та планування. Агент самостійно приступає до ідентифікації сторінок входу. Використовуючи LLM, він здатний проаналізувати будь-яку вебсторінку і з точністю близько 95% визначити, де саме розташовані поля для введення ID та пароля.
Після ідентифікації цільових форм, ШІ-агент обирає стратегію атаки. Замість класичного, але ризикованого повного перебору (Brute Force), який може призвести до швидкого блокування облікового запису після кількох невдалих спроб, агент застосовує техніку Password Spraying (розпилення паролів). Ця стратегія передбачає перевірку одного і того ж пароля на великій кількості різних ідентифікаторів користувачів. Це дозволяє зловмиснику працювати непомітно, уникаючи спрацьовування політик блокування окремих акаунтів, та значно підвищує шанси на успіх. Важливо, що хакеру достатньо лише запустити фреймворк, а вся подальша складна, багаторівнева робота виконується ШІ автономно.
2. Поліморфне ШІ-вимагання (Ransomware)
Наступний, більш руйнівний рівень загрози — це ШІ-вимагання. Прикладом такої системи є дослідницький проєкт Prompt Lock. У цьому сценарії ШІ-агент бере на себе функцію оркестратора атаки, керуючи всіма процесами. Він не тільки планує атаку, але й використовує LLM для глибинного аналізу даних на цільових системах, щоб виявити найбільш чутливі та цінні файли, за які жертва буде готова заплатити максимальну суму викупу.
Підписуйтеся на наші соцмережі
Після виявлення цінних даних агент генерує необхідний код для шифрування та ексфільтрації. Завдяки здатності LLM до генерації мови, ШІ створює персоналізовані записки про викуп. Він вказує конкретні назви скомпрометованих файлів і точно розраховує потрібну суму, посилюючи тиск. Крім того, ШІ забезпечує поліморфність атаки: кожна наступна інстанція шкідливого програмного забезпечення відрізняється від попередньої. Це ускладнює виявлення традиційними засобами захисту. Оскільки такі системи можуть працювати у хмарній інфраструктурі, це створює модель Ransomware as a Service (Вимагання як послуга), доступну для замовлення на тіньовому ринку.
3. Гіперперсоналізований фішинг без мовних помилок
Протягом тривалого часу однією з головних ознак фішингового листа була наявність граматичних помилок або неякісної мови. ШІ усуває цю ознаку, яка давала користувачам захисний сигнал. Використовуючи потужність Великих Мовних Моделей, зловмисники тепер можуть генерувати тексти з ідеальною граматикою та бездоганною орфографією на будь-якій мові світу, незалежно від мовних навичок самого хакера.
Створення такого листа є надзвичайно швидким. Якщо для створення якісного фішингового листа людині потрібні години роботи, то ШІ може створити майже такий самий ефективний текст лише за п’ять хвилин, порівняно зі шістнадцятьма годинами людської праці. Це робить масові атаки надзвичайно вигідними. Справжня загроза полягає у гіперперсоналізації: ШІ здатний автоматично збирати дані про ціль із публічних джерел, таких як соціальні мережі, щоб створити високоспецифічні та індивідуалізовані повідомлення, які підвищують ймовірність довіри та успішного кліку.
4. Дипфейк-шахрайство та втрата довіри
Однією з найбільш руйнівних форм ШІ-шахрайства є використання дипфейків (deepfake), створених за допомогою генеративного ШІ (Gen AI). Ця технологія дозволяє зловмисникам створювати моделі голосу або відео цілі на основі мінімальних даних. Для генерації дуже переконливого голосового дипфейку іноді достатньо лише трьох секунд аудіозапису.
Після створення моделі, зловмисник вводить бажаний «сценарій», і Gen AI генерує фальшиве, але абсолютно реалістичне зображення чи звук. Фінансові наслідки цих атак є реальними та значними: у 2021 році аудіо-діпфейк, що імітував керівника, призвів до переказу $35 млн. У 2024 році було зафіксовано випадок, коли відео-діпфейк фінансового директора під час відеоконференції переконав співробітника перевести $25 млн. Це призводить до єдиного висновку: більше не можна довіряти тому, що бачиш чи чуєш, якщо ви не перебуваєте з людиною фізично в одній кімнаті.
5. Генерування експлойтів на вимогу
ШІ-експлойти — це автоматизоване використання публічно відомих вразливостей. ШІ-агенти активно використовують відкриті бази даних, наприклад, CVE (Common Vulnerabilities and Exposures), які містять деталі про вразливості. Проєкт CVE Genie демонструє, як ШІ-агент отримує документ CVE, використовує LLM для вилучення ключових деталей, а потім автоматично пише функціональний код експлойту.
Ефективність такої системи вражає: вона досягла успіху у генерації дієвих експлойтів у 51% випадків. Фінансовий аспект робить її доступною для масового використання, оскільки вартість створення одного експлойту становить менше ніж $3. Це означає, що люди, які не мають глибоких знань у кодуванні, можуть створювати потужні інструменти, використовуючи лише загальнодоступну інформацію та ШІ. Зловмисники отримують можливість створювати поліморфне шкідливе програмне забезпечення, яке постійно змінює свою природу, ускладнюючи його виявлення.
6. Атаки повного циклу: від планування до отримання викупу
Найвищий рівень кіберзагрози — це повністю автономна ШІ-система, здатна керувати усім ланцюгом атаки (kill chain), від вибору цілі до отримання викупу. Такий ШІ-агент приймає тактичні та стратегічні рішення. Він самостійно обирає тип атаки, знаходить високоцінні цілі та аналізує викрадені дані для оцінки їхньої вартості.
Унікальною можливістю є економічне калібрування вимог викупу. Агент ШІ розраховує суму, ґрунтуючись на цінності інформації та оцінці платоспроможності цілі, щоб максимізувати ймовірність платежу. Він уникає як надто низької, так і нереально великої вимоги. Таким чином, ШІ-агент бере на себе функції проєктування, просування та виконання всієї атаки, залишаючи зловмиснику лише функцію отримання грошей.
Нова економіка кіберзлочинності та неминуча війна ШІ проти ШІ
Поява цих шести типів атак радикально змінює вимоги до навичок кіберзлочинців, значно знижуючи поріг входу. Раніше для здійснення складних, багатоетапних атак потрібні були елітні навички. Тепер хакеру достатньо бути так званим vibe coder або vibe hacker — придумати ідею, проінструктувати ШІ-агента, який самостійно з’ясує всі технічні деталі та виконає атаку. ШІ автоматизує проєктування та виконання, залишаючи людині лише збір прибутку.
Оскільки ШІ-атаки стрімко зростають, і ця тенденція не зміниться на краще, захисники повинні кардинально переглянути свою стратегію. Відтепер використання ШІ для кіберзахисту не є бажаною опцією, а життєвою необхідністю. ШІ повинен бути обов’язково залучений для посилення функцій запобігання, виявлення та реагування. Майбутнє кібербезпеки — це неминуче протистояння «хорошого ШІ» проти «поганого ШІ». Наша мета — забезпечити перемогу «хорошого».
Цей матеріал підготовлений на основі інформації з відкритих джерел. Редакція самостійно відбирає ключові факти, аналізує їх та структурує за допомогою AI-інструментів.