Захист ШІ-асистентів — обовʼязкова умова безпечної роботи бізнесу?
Навесні 2023 року інженери світового виробника електроніки передали публічному чатботу закритий вихідний код і нотатки внутрішніх нарад. У 2025 році дослідники показали, що корпоративний ШІ-асистент може передати дані назовні через сторонній лист — користувачеві навіть не потрібно його відкривати.
В обох випадках ніхто не проникав у мережу і не запускав шкідливих програм. Запити передавалися природною мовою через стандартні з’єднання, тому наявні системи кіберзахисту сприймали їх як легітимний трафік.
Чому традиційні системи захисту не бачать загрозу?
Коли працівник звертається до асистента, мовна модель отримує правила розробників, фрагменти документів і листів із корпоративних баз. Сторонній текст може змінити поведінку асистента. Таку атаку називають ін'єкцією в запит (prompt injection). У переліку ризиків для ШІ-застосунків OWASP вона посідає перше місце.
Класичні системи безпеки створювалися під інші завдання. NGFW контролює мережеві з'єднання, WAF захищає вебпрограми, API-шлюз перевіряє права користувачів, а DLP запобігає витоку конфіденційних файлів. Проте ці інструменти не перевіряють, як текст вплине на поведінку моделі.
Для цього створили окремий клас рішень — AI Gateway, зокрема FortiAIGate від Fortinet. Шлюз встановлюється між програмами компанії та мовною моделлю й аналізує повідомлення в обох напрямках.
Типові ризики для ШІ-асистентів і як їх контролює FortiAIGate
Підписуйтеся на наші соцмережі
Тіньовий ШІ: витік даних через неконтрольовані запити
Працівники використовують сторонні сервіси, про які ІТ-відділ не знає. За статистикою IBM, у 2026 році тіньовий ШІ був причетний до 43% досліджених витоків даних.
FortiAIGate перевіряє запити на наявність персональних даних, паролів, платіжних реквізитів та API-ключів. Залежно від політики шлюз блокує їх або замінює чутливі значення заглушками.
Пряма ін'єкція: маніпуляція публічним чатботом
Наприкінці 2023 року чатбот американського автодилера погодився продати позашляховик за один долар після маніпулятивного запиту. Дилер не підтвердив угоду, але докази вразливості вже поширилися в мережі.
FortiAIGate аналізує такі інструкції до відправлення в модель і може заблокувати спробу змінити її поведінку.
Непряма ін'єкція: перехоплення асистента через сторонній лист
У 2025 році дослідники виявили критичну вразливість, яка дозволяла перехопити корпоративного ШІ-асистента через сторонній лист. FortiAIGate перевіряє текст із підключених джерел, сканує відповіді на витік даних і контролює дії асистента через зовнішні інструменти.
Додаткові можливості FortiAIGate
FortiAIGate працює з моделями OpenAI, Anthropic, Microsoft Azure AI Foundry та AWS Bedrock через єдиний API. Це дозволяє змінювати постачальника без переписування коду корпоративних програм.
Шлюз також веде журнал взаємодій, фіксує вердикти безпеки, кількість токенів і вартість запитів. Його можна розгорнути у власному датацентрі або хмарі, зберігаючи контроль над корпоративними даними.
Як впровадити FortiAIGate?
IT Specialist — офіційний партнер Fortinet в Україні. Компанія супроводжує впровадження FortiAIGate: від аудиту корпоративних ШІ-асистентів до налаштування захисту та тестування.
Перейдіть на сайт IT Specialist, щоб дізнатися більше про можливості захисту корпоративних ШІ-застосунків.