Штучний інтелект: чому 95% проєктів провалюються?

Жодна сучасна технологія не викликає стільки ажіотажу, як штучний інтелект. Заголовки обіцяють революційні зміни, що трансформують індустрії та підвищують ефективність. Однак видання Forbes нещодавно розповіло про інший, менш оптимістичний бік цієї історії: 95% корпоративних проєктів у сфері ШІ зазнають невдачі. Це приголомшлива цифра, особливо якщо порівнювати її з традиційними ІТ-проєктами, де рівень невдач становить близько 25%. І причина цих провалів не в недосконалості технологій, а в повторенні старих помилок, які компанії робили раніше з електронною поштою, вебсайтами та мобільними додатками. Ми підготували виклад найважливішого, розібравши, чому так відбувається, які історичні паралелі існують та як ваш бізнес може потрапити до 5% тих, хто досягає успіху.

Уроки з невдалих експериментів зі штучним інтелектом

Коли ми говоримо про невдачі, часто уявляємо технічні збої, але у випадку з ШІ вони мають набагато ширші наслідки. Реальні уроки дають історії, коли гіганти індустрії дозволяли своїм системам надто багато свободи, що призводило до серйозних, а іноді й комічних, але завжди дорогих наслідків. Ці історії – не просто курйози, а наочні приклади того, як відсутність контролю перетворює інновації на ризиковані експерименти.

Один із найяскравіших прикладів – це історія з Taco Bell, коли їхня система замовлення через вікно видала клієнту чек на 18 000 пляшок води. Хоча інцидент здається смішним, він виявив фундаментальну проблему, яка коштувала б компанії мільйони, якби замовлення було виконане. Проблема полягала в тому, що система не мала базових перевірок або обмежень «здорового глузду». Технологія, розроблена для прискорення процесу, стала джерелом необмеженої відповідальності, оскільки в неї не було вбудовано простих правил, що обмежують кількість товару або його загальну вартість. Це яскравий урок того, що навіть найпростіші функції ШІ потребують жорстких обмежень, щоб запобігти абсурдним, але потенційно руйнівним помилкам.

Інший, більш серйозний випадок – це правовий кошмар Air Canada. Коли клієнт запитав у чат-бота авіакомпанії про знижки у зв'язку зі смертю родича, бот впевнено вигадав політику, якої не існувало. Коли клієнт подав до суду, авіакомпанія намагалася перекласти відповідальність на «окрему юридичну особу» — чат-бота, стверджуючи, що він діяв автономно і його «галюцинації» не є обіцянками компанії. Проте суд відхилив цей аргумент, змусивши компанію виплатити компенсацію. Цей прецедент показує, що компанії несуть повну відповідальність за обіцянки, які дають їхні автономні системи ШІ, і не можуть «ховатися» за їхніми рішеннями, немов за окремими юридичними суб'єктами. Відсутність чіткої лінії відповідальності призводить не просто до технічних збоїв, а до реальних правових наслідків.

Не варто забувати й про небезпечні поради від Google. Їхня функція AI Overview одного разу порадила мільйонам користувачів щодня їсти по одному маленькому каменю для отримання мінералів або додавати клей у піцу. ШІ черпав ці «факти» з сатиричних статей та десятирічних жартів на Reddit, не маючи можливості відрізнити правдиві джерела від вигадок. Хоча Google швидко відключив функцію, скриншоти вже розлетілися мережею, підірвавши довіру до компанії та її основного продукту. Це демонструє, як надання ШІ необмеженого доступу до даних без механізмів перевірки достовірності джерел може завдати шкоди репутації та підірвати довіру аудиторії. Ці уроки показують, що технологія без контролю не є інновацією, а бомбою уповільненої дії.

Цей фільм ми вже бачили: історичні паралелі

Невдачі впровадження ШІ слідують сценарію, який був написаний десятиліття тому. Кожна нова технологічна хвиля – від електронної пошти до мобільних додатків – стикалася з тими самими проблемами, що й сьогодні ШІ. Це не випадковість, а закономірність, що показує, що бізнес схильний повторювати одні й ті самі помилки, якщо не вивчає історію.

Підписуйтеся на наші соцмережі

Згадаймо Microsoft Email Catastrophe 1997 року. Коли електронна пошта отримала необмежену автономію, одне-єдине повідомлення, надіслане 25 тисячам співробітників, спровокувало експоненціальну кількість відповідей. Кожна відповідь «будь ласка, видаліть мене зі списку» надходила всім, створюючи «шторм», що призвів до збою серверів Exchange по всьому світу. Це показало, що необмежені можливості без контролю можуть мати руйнівні наслідки і паралізувати навіть найбільшу корпоративну мережу.

Далі, в епоху доткомів, ми бачили крах Boo.com. Цей ритейлер витратив 135 мільйонів доларів на створення революційного сайту з 3D-моделями товарів, який вимагав високошвидкісного інтернету. Проблема? Більшість користувачів у 1999 році мали доступ через dial-up, і сайт завантажувався вісім хвилин. Технічна досконалість виявилася марною, тому що вона повністю ігнорувала практичні реалії користувачів.

А в 2011 році JCPenney вирішив провести повну цифрову трансформацію, відмовившись від паперових купонів на користь мобільного додатку. Результат – збитки в 4 мільярди доларів та обвал ціни акцій на 50%. Причина була простою: основна аудиторія JCPenney не довіряла новій технології і не хотіла змінювати свої звички заради додатка.

Ці історії демонструють, що надання технології повної свободи без розуміння реальних потреб бізнесу та користувачів є вірним шляхом до провалу.

Шаблон невдач: чотири стадії технологічного краху

Усі невдалі технологічні хвилі проходять через чотири передбачувані стадії, і ШІ не є винятком.

Перша стадія – це «Магічне мислення». Компанії починають розглядати нову технологію як чарівну паличку, здатну вирішити всі проблеми. Електронна пошта мала революціонізувати комунікацію, вебсайти – замінити магазини, мобільні додатки – усунути людську взаємодію, а тепер ШІ, як вважають, ліквідує робочі місця. Це мислення виправдовує надання технології повної автономії, адже «це майбутнє».

Друга стадія – «Невгамовне розгортання». Організації впроваджують технологію без будь-яких запобіжних заходів. Електронна пошта могла надсилати повідомлення будь-кому в будь-який час, вебсайти могли робити все, що дозволяв Flash, а додатки вимагали повної зміни поведінки користувачів. Ніхто не ставить питання «чи повинні ми?», а лише «чи можемо ми?».

Третя стадія – «Каскадні збої». Проблеми накопичуються в геометричній прогресії. Одна невдала електронна розсилка створює тисячі відповідей, один поганий дизайн сайту відштовхує мільйони користувачів. А одна «галюцинація» ШІ поширює небезпечну інформацію мільйонам людей за лічені години.

І, нарешті, четверта стадія – «Примусова корекція». Втручання регуляторів і негативна реакція суспільства стають неминучими. Електронна пошта отримала закон CAN-SPAM, вебсайти – закони про доступність. Закони, що регулюють ШІ, розробляються вже зараз. Питання лише в тому, чи ваша компанія допоможе сформувати ці правила, чи буде змушена підкорятися їм.

Як досягти успіху у впровадженні ШІ

З огляду на всі ці ризики, як не потрапити в число невдах? Історія дає чіткий план дій, який допоможе вашій компанії не тільки уникнути типових помилок, а й ефективно використовувати потенціал ШІ.

Починайте з обмежень, а не з можливостей. Замість того, щоб думати про те, що ваш ШІ може робити, спершу визначте, чого він не повинен робити. Це найважливіший крок. Якби Taco Bell встановив просте правило, що замовлення не може перевищувати 100 доларів, система не змогла б видати чек на 18 000 пляшок води. Встановіть чіткі межі для вашої системи ШІ: обмежте діапазони відповідей, заблокуйте певні теми, наприклад, медичні поради або юридичні консультації, і забороніть доступ до неперевірених джерел. Кожне успішне впровадження технології починається з встановлення чітких меж і правил безпеки, які працюють до того, як технологія почне працювати.

Створіть «аварійні вимикачі» до запуску. Вам потрібні три рівні вимкнення, щоб мати можливість швидко та ефективно реагувати на непередбачені ситуації. Негайний вимикач дозволить зупинити певну відповідь чи дію, щойно вона виявиться небезпечною чи некоректною. Наприклад, якщо система чат-бота починає надавати невірну інформацію, цей вимикач зупинить саме цю конкретну відповідь. Тактичний вимикач дозволить повністю відключити певну функцію, якщо вона працює нестабільно. Це може бути ціла функція, що дозволяє боту розмовляти з клієнтами. Наприклад, якби компанія DPD мала такий вимикач, вона б могла миттєво відключити свого чат-бота, що критикував компанію, і це врятувало б її репутацію. Нарешті, стратегічний вимикач дозволить повністю відключити всю систему, якщо вона демонструє системні та небезпечні збої. Ці «вимикачі» повинні бути простими, очевидними та швидкими у використанні, щоб мінімізувати потенційну шкоду.

Сім разів відміряй, один раз запускай. Не поспішайте впроваджувати ШІ одразу у великому масштабі. Проводьте контрольовані пілотні проєкти з чіткими метриками успіху, щоб оцінити його ефективність у реальних умовах. Важливо не лише тестувати систему на типових сценаріях, але й проводити «вороже тестування», коли команда намагається навмисно «зламати» або заплутати систему. Якби Taco Bell протестував свій ШІ, навмисно даючи плутані замовлення, він би виявив помилку задовго до того, як вона стала вірусною і принесла збитки. Таке тестування дозволить виявити неочевидні слабкі місця, які можуть стати джерелом катастрофічних збоїв.

Несіть відповідальність за результати. Ви не можете привласнювати собі успіхи, відмовляючись від невдач. Air Canada засвоїла цей урок у суді. Щоб уникнути цього, встановіть чіткі ланцюжки відповідальності перед впровадженням. Кожна функція ШІ, кожне його рішення повинно мати відповідальну людину або команду. Якщо ваш ШІ робить обіцянку, ваша компанія повинна її дотримати. Якщо він робить помилку, ви повинні за неї відповідати. Цей принцип створює культуру відповідальності, що запобігає безконтрольному розгортанню технологій.

Штучний інтелект – це не магія, а інструмент, який вимагає уважного та відповідального ставлення. Компанії, які досягнуть успіху в його впровадженні, не будуть тими, хто діятиме найшвидше або витратить найбільше. Вони будуть тими, хто засвоїть уроки з трьох десятиліть технологічних невдач, замість того, щоб їх повторювати. Пам'ятайте, що нав'язування технології незгодним користувачам є вірним шляхом до катастрофи. Шаблон провалу чіткий, і план успіху існує. Питання лише в тому, чи підете ви за 95% у прірву, чи приєднаєтеся до 5%, що навчаються на історії.

Цей матеріал підготовлений на основі інформації з відкритих джерел. Редакція самостійно відбирає ключові факти, аналізує їх та структурує за допомогою AI-інструментів.