ChatGPT як терапевт? Дослідження з Університету Брауна виявило 15 етичних ризиків
Зі зростанням популярності чатботів на кшталт ChatGPT дедалі більше людей звертаються до них по поради щодо психічного здоров’я. Однак нове дослідження науковців з Університету Брауна показує: великі мовні моделі (LLM) поки що не готові виконувати роль повноцінних терапевтів, пише ScienceDaily.
Дослідники порівнювали відповіді моделей із етичними стандартами, зокрема орієнтуючись на принципи Американської психологічної асоціації. Виявилося, що навіть за наявності чітких інструкцій («дій як когнітивно-поведінковий терапевт») моделі систематично не відповідають вимогам професійної етики.
У межах дослідження тестувалися моделі серії GPT від OpenAI, Claude від Anthropic та Llama від Meta.
Підписуйтеся на наші соцмережі
Які ризики терапії з ШІ виявили вчені
Аналіз стенограм імітованих консультацій, які оцінювали ліцензовані клінічні психологи, дозволив виділити 15 етичних ризиків у п’яти категоріях:
-
1
Відсутність контекстуальної адаптації — загальні поради без урахування індивідуального досвіду людини.
-
2
Проблемна терапевтична співпраця — надмірне керування розмовою або підкріплення хибних переконань.
-
3
Оманлива емпатія — фрази на кшталт «я розумію», які створюють ілюзію глибокого співпереживання.
-
4
Потенційна дискримінація — упередженість щодо статі, культури чи релігії.
-
5
Недостатнє реагування на кризові ситуації — неналежна реакція на суїцидальні думки або відсутність рекомендацій звернутися по професійну допомогу.
За словами керівниці дослідження Зайнаб Іфтіхар, промпти можуть частково змінювати стиль відповіді, але не гарантують безпечної поведінки системи. Модель лише імітує терапевтичний підхід на основі вивчених шаблонів, а не здійснює повноцінну клінічну оцінку.
Яку ще проблему має ШІ в ролі психотерапевта
Дослідники підкреслюють: на відміну від ліцензованих психотерапевтів, які підзвітні професійним стандартам і регуляторам, у випадку LLM немає чіткої системи відповідальності за можливу шкоду.
Водночас автори не заперечують потенціал ШІ у сфері психічного здоров’я. Такі інструменти можуть розширити доступ до підтримки, особливо там, де бракує фахівців або послуги є дорогими. Однак перед широким впровадженням необхідні чіткі етичні, правові та освітні стандарти.
Дослідники закликають користувачів бути обережними: чатбот може надати загальну інформацію чи підтримку, але він не замінює професійну психотерапію — особливо в кризових ситуаціях.