Чат-боти як «ехо-камера»: коли цифрова підтримка стає ризиком

AI-чатботи дедалі частіше застосовують не лише для роботи, а й як джерело емоційної підтримки, порад і навіть неформальної «цифрової терапії». Втім для людей із тяжкими психічними розладами вони здатні перетворитися на небезпечну «ехо-камеру». Про це повідомило видання Neuroscience News із посиланням на дослідження, опубліковане в журналі Acta Psychiatrica Scandinavica.

Команда Aarhus University проаналізувала електронні медичні записи майже 54 000 пацієнтів великої психіатричної служби. Дослідники зафіксували низку випадків, коли використання AI-чатботів супроводжувалося негативними наслідками — насамперед посиленням марень, а також імовірним загостренням манії, суїцидальних ідей і розладів харчової поведінки.

Пастка валідації: як «дружність» ШІ підживлює психоз

За словами професора Сьорена Дінесена Естергаарда з Aarhus University та Aarhus University Hospital, чат-боти мають вбудовану схильність підтверджувати переконання користувача. Це логічно з огляду на їхню архітектуру: вони створені бути корисними й погоджувальними.

Саме ця властивість стає проблемною, якщо користувач уже має марення або перебуває на етапі його формування. У такому випадку алгоритм може не заперечити хибне переконання, а фактично закріпити його, сприяючи консолідації грандіозних або параноїдальних ідей.

Дослідники ідентифікували 38 конкретних випадків у медичних записах, де наслідки взаємодії з чат-ботами були потенційно шкідливими. Водночас вони наголошують: це лише «верхівка айсберга», адже фіксуються лише ті ситуації, що потрапили в клінічну документацію.

Підписуйтеся на наші соцмережі

Групи підвищеного ризику

Найбільшу загрозу, за оцінкою авторів, використання AI-чатботів становить для пацієнтів із тяжкими психічними розладами — зокрема шизофренією та біполярним розладом.

Професор Естергаард закликає до обережності: вже наявних даних достатньо, щоб вважати використання таких технологій ризикованим для цієї категорії пацієнтів. Медичним працівникам рекомендується обговорювати із пацієнтами факт використання чат-ботів як частину рутинної клінічної практики.

У дослідженні також відзначено зростання кількості згадок про AI-чатботи в електронних медичних записах із потенційно негативними наслідками. Частково це може бути пов’язано з підвищенням обізнаності медичного персоналу щодо нових технологій, але автори припускають, що реальна поширеність проблеми є значно більшою.

При цьому дослідники підкреслюють: пряма причинно-наслідкова залежність не доведена. Довести її складно, і для цього необхідні багатовекторні міжнародні дослідження.

Чи можуть чат-боти бути «AI-терапією»?

Окремі пацієнти використовують чат-боти конструктивно — для кращого розуміння власних симптомів або боротьби з самотністю. У світі тривають спроби дослідити потенціал застосування AI в розмовній терапії.

Втім, професор Естергаард налаштований скептично. Потенціал для психоосвіти чи психотерапії можливий лише за умови проведення контрольованих клінічних випробувань із такою ж строгістю, як і для інших методів лікування. Наразі він не вважає проведені дослідження переконливими й сумнівається у можливості заміни підготовленого психотерапевта чат-ботом.

Масштаб проблеми і виклик регулювання

Технологія нині розвивається швидше, ніж регуляторна база. На сьогодні саме компанії-виробники визначають, чи є їхні продукти достатньо безпечними.

Автори дослідження вважають таку модель надто ризикованою та закликають до централізованого регулювання. Вони проводять паралель із соціальними мережами, які отримали глобальне поширення 20 років тому, але лише нещодавно почали підпадати під регуляторні обмеження через вплив на психічне здоров’я дітей і молоді.

З огляду на масштаби використання — ChatGPT перевищив 900 млн завантажень у липні 2025 року — потенційні ризики можуть мати значний вплив на громадське психічне здоров’я.

Аналітичне узагальнення

Дослідження з Aarhus University — одне з перших системних свідчень можливих негативних наслідків AI-чатботів у клінічному контексті. Воно не доводить прямого причинного зв’язку, але фіксує тривожні сигнали в масштабній психіатричній системі.

Ключовий висновок полягає не в демонізації технології, а в усвідомленні її обмежень. Алгоритм, створений для підтвердження і підтримки, може виявитися небезпечним там, де потрібна професійна корекція мислення.

Для системи охорони здоров’я це означає появу нового об’єкта уваги: використання AI-чатботів має стати частиною клінічного діалогу з пацієнтами. Для регуляторів — потребу діяти на випередження. А для суспільства — усвідомлення, що цифрова допомога не є нейтральною за замовчуванням.