Витоки даних і галюцинації. Як безпечно інтегрувати ШІ-модель у свій бізнес: поради від СЕО ConnectiveOne Сергія Кравцова

Сучасний бізнес дедалі більше інтегрує ШІ у свою діяльність, і це вже не просто модний тренд, а потреба сьогодення. Компанії, що відстають у впровадженні АІ-рішень, ризикують втратити позиції на ринку.

Це підтверджує ситуація з Apple: після презентації на WWDC 2025, де компанія оголосила про відтермінування випуску оновленої Siri з розширеними AI-можливостями до 2026-го, акції Apple впали на 1,5%. Це підкреслює важливість активного впровадження інновацій у галузі штучного інтелекту для збереження конкурентоспроможності.

Застосування ШІ допомагає вивести компанію на новий рівень ефективності: бізнеси запускають чатботи, вбудовують Copilot-рішення, створюють власні моделі. Водночас постає питання кібербезпеки. Як уникнути витоку конфіденційної інформації? Як побудувати власну ШІ-модель або навчити наявну, щоб відповіді були максимально точні та без галюцинацій?

Ці питання ми поставили Сергію Кравцову, співзасновнику та CEO ConnectiveOne.

Підписуйтеся на наші соцмережі

Існують три рівні участі у ШІ-екосистемі: від розробки до використання. Умовно це як ланцюг постачання у виробництві.

Є ті, хто розробляє ШІ модель, наприклад, LLM [Large Language Model]. Там бізнес у тому, що ми для іншого продукту навчаємо свою модель, потрібно зібрати велику кількість даних, правильно їх структурувати і на етапі навчання виключати такі моменти, як витоки даних і галюцинації.

Другий левел — це коли ви на базі чогось готового робите прикладний application. Тобто у вас є вже навчена кимось модель і потрібно її правильно обв’язати [інтегрувати модель з обмеженнями та фільтрами, які контролюють її роботу], щоб уникнути витоків даних і некоректних відповідей. 

Для цього існує алгоритмічний інструмент — RAG (Retrieval-Augmented Generation) — найпоширеніший метод контролю LLM, коли модель генерує відповіді не зі своєї бази знань, а з вашої.

Є й інші інженерні методи контролю, наприклад, другий рівень перевірки: спочатку генерується відповідь, а потім окрема модель перевіряє її на точність. 

І третій левел — використання системи. Якщо у вас суперкритичні дані, то не варто використовувати пряму генерацію.

Наприклад, для медичних систем не варто користуватися системою, що каже, який у тебе діагноз. Але можна використовувати, наприклад, для транскрибації заміток лікаря. Це нормальне використання.

Рекомендації

У нас був дуже неприємний кейс, коли ШІ-асистент на запит користувача «Якій компанії ви продали наш борг?» відповів припущенням — «Ймовірно, це могла бути компанія [назва]». Така відповідь з’явилася через неправильно налаштований параметр схожості (distance) у механізмі пошуку, що допустив відповідь на основі наближеного, а не точного збігу.

Ми одразу відкоригували параметри і логіку, щоб ШІ взагалі не генерував відповідей на чутливі запити без чіткої та перевіреної інформації. Висновок простий: у таких сценаріях важливо не лише обмежити модель, а й передбачити, коли краще промовчати або передати запит людині.