Дмитро Борисов з Linkos Group (M.E.Doc) про цифрову безпеку ШІ-рішень, ключові помилки та сфери, де краще не застосовувати ШІ
9 травня відбувся третій національний шоурум українського софту «Своє.ІТ», де провідні українські ІТ-компанії ділилися досвідом та інсайтами на теми цифрової трансформації, кібербезпеки, відмови від ворожого ПЗ на користь українських продуктів та впровадження штучного інтелекту в бізнес-процеси.
Серед експертів — комерційний директор ІТ-компанії Linkos Group Дмитро Борисов. Компанія відома як розробник системи електронного документообігу M.E.Doc, а також цифрових рішень Cashalot, СОТА, ЦСК «Україна» та ISpro, які використовує український бізнес.
Дмитро розповів про цифрові рішення Linkos Group, практичні виклики та помилки, з якими стикаються компанії при впровадженні ШІ-рішень, а також поділився міркуваннями щодо покращення ефективності цифрових рішень у компаніях.
SPEKA поспілкувалася з Дмитром Борисовим, щоб дізнатися, як бізнесу захистити конфіденційні дані, уникнути галюцинацій ШІ та в яких галузях краще не застосовувати штучний інтелект.
Як побудувати ШІ-модель, що працюватиме з найменшою кількістю помилок та галюцинацій?
Підписуйтеся на наші соцмережі
Я порадив би не шукати універсальне рішення, яке закриває всі ваші ШІ-потреби. Краще багато рішень, кожне з яких відповідатиме за свій напрям і в поєднанні між собою утворюватиме синергію. Це більш безпечно та правильно. З власного досвіду, такий підхід має набагато більшу ефективність.
Щодо проблем, то точно будуть проблеми з IT-безпекою. Коли ми впроваджували інструменти для власного використання, то першими були проти наші фахівці з кібербезпеки. Вони турбувалися, куди далі може піти інформація, надана ШІ.
Важливий захист конфіденційних даних, з якими працюватиме штучний інтелект. Такі дані стосуються кадрів, фінансів, внутрішніх процесів тощо, вони дуже специфічні і не мають потрапити назовні.
Тому перед впровадженням ШІ варто провести Data Assessment — проаналізувати, наскільки ризиковано використовувати ті чи інші дані, куди вони потенційно можуть потрапити. Це дуже важливо, тому що безпека понад усе.
Для такої аналітики краще залучати зовнішніх спеціалістів чи працювати силами in-house-команди?
Так, краще, щоб цим займалися фахівці. Не варто бездумно кидатися у впровадження й кричати: «Є ШІ — давайте використовувати!». Спершу потрібно все ретельно продумати: провести консультації, прорахувати ризики й чітко розуміти, з якими саме даними ви працюватимете.
Наприклад, якщо йдеться про ваш колцентр, варто продумати, яку інформацію озвучуватимуть клієнти, аби переконатися, що вона не витікатиме назовні й не становитиме загрози конфіденційності. Стрибати в ополонку без підготовки не варто — усе має бути продумано.
Які основні проблеми виникають у компаній, коли вони починають впроваджувати ШІ? З якими ключовими помилками стикаються і як їх уникати?
Не продумують заздалегідь. Сьогодні під словом АІ подають інструменти, в яких АІ має тільки назву, а по факту це далеко від повноцінного штучного інтелекту. Фактично ми спостерігаємо «інфляцію» таких рішень й вони потихеньку відкидаються.
Компанії часто женуться за трендом: «Це модно, гарно, це ШІ», проте такий підхід хибний. Важливо розуміти, яку користь ШІ приносить бізнесу. Це може бути покращення взаємодії з клієнтами (client experience), зниження навантаження на команду тощо. Але має бути конкретна вигода. Тільки тоді впровадження ШІ буде виправданим і ефективним.
Чи є аспекти бізнесу, в яких краще не застосовувати ШІ?
Має бути певний компроміс, гібридна модель. Наприклад, зараз часто використовують ШІ у роботі контакт-центрів. Люди звертаються до контакт-центрів з певним емоційним навантаженням, не завжди позитивним. І тут дуже важливо, щоб відповідь була з певною частинкою емоційного інтелекту — те, чого в ШІ нема. Потрібно, щоб це була людина, яка зможе зреагувати, підтримати та надати відповідний рівень послуг.
Тож це дуже індивідуально для кожного бізнесу. Кожна компанія має ретельно проаналізувати свої процеси й визначити, де справді доцільно впроваджувати ШІ, а де краще залишити живе спілкування.