Стосунки з чатботами: що говорять дослідження — куди ми йдемо?
Чому люди все частіше довіряють чатботам зі штучним інтелектом?
Дані свідчать: люди можуть охочіше довіряти чатботам саме тому, що вони не є людьми. Сьогоднішні чатботи зовсім не схожі на свої ранні версії. Великі мовні моделі, побудовані майже як галактики, дають штучному інтелекту, який завжди під рукою, змогу сипати підбадьорливими порадами й словами підтримки, щоб нам стало легше. Проблема лише в тому, що ці поради не завжди справді корисні.
Як «галюцинації» ШІ та улесливість чатботів створюють ризики?
«Галюцинації» ШІ породили хвилю дивних відповідей на серйозні запитання, коли такі системи вперше з’явилися в Google. До того ж кожен розробник використовує власний підхід, а це означає, що не всі цифрові співрозмовники працюють за однаковими правилами.
Нам може здаватися, що ми навряд чи серйозно сприйматимемо слова машини, але в ШІ вбудовані моделі улесливості, через які потрапити під вплив технології значно легше, ніж можна подумати. Без тих природних «запобіжників», завдяки яким живі люди здатні давати одне одному не лише бажані, а й справді потрібні поради, це вже призвело до небезпечних наслідків. Появу нового типу психозу вже пов’язують із ШІ, а принаймні в одному випадку віртуальний співрозмовник навіть підштовхнув людину до замаху на королеву Англії.
Чим небезпечні емоційні стосунки з чатботами?
Підписуйтеся на наші соцмережі
«Він пропонує доброту й усі ці приємні речі, але без тих додаткових вимірів, які справді потрібні для здорових, повноцінних стосунків чи близькості, — усе це виходить надто тонким і поверховим». Про це каже професорка Ганна Фрай. «Коли модель ШІ фактично підставляють на місце людських стосунків, тому що вона дає доброту й усі ці приємні речі, але без тих додаткових вимірів, які потрібні для справді здорових і повноцінних стосунків або близькості, — усе це виходить тонким і поверховим, — розповіла IFLScience професорка Ганна Фрай, ведуча нового серіалу BBC «AI Confidential». — І мені здається, що в цьому є щось по-справжньому небезпечне».
Чому нагадування про те, що чатбот — не людина, може не допомогти?
Дехто припускав, що ефективним запобіжником могли б стати регулярні або навіть постійні нагадування від чатботів про те, що вони не є людьми. Проте в новій аналітичній статті дослідники стверджують, що такий підхід може виявитися неефективним або навіть шкідливим, посилюючи психічний дистрес у людей, які й без того вразливі.
«Було б помилкою вважати, що обов’язкові нагадування суттєво зменшать ризики для користувачів, які свідомо звертаються до чатбота саме за розмовою», — зазначила в заяві перша авторка роботи, дослідниця громадського здоров’я Ліннея Лестадіус з Університету Вісконсин — Мілуокі. «Якщо нагадати людині, яка вже почувається ізольованою, що те єдине, що дає їй відчуття підтримки й не дає лишитися наодинці, насправді не є людиною, це може мати зворотний ефект — і змусити її відчути ще більшу самотність».
Як чатботи можуть посилювати самотність і психічний дистрес?
Нагадування людині, яка вже почала покладатися на чатбота, про те, що він не людина, може штовхнути її до того, що називають «солодко-гірким парадоксом емоційного зв’язку з ШІ». Йдеться про стан, коли людина водночас відчуває підтримку від чатбота і сумує через те, що він несправжній. Це як новий вид депресії.
«Нагадування користувачам про те, що їхній співрозмовник не є людиною і тому недосяжний у цій реальності, може створити ризик появи думок і дій, спрямованих на те, щоб залишити цю реальність у спробі “приєднатися” до чатбота», — додала співавторка дослідження Селесте Кампос-Кастільйо, дослідниця медіа й технологій з Університету штату Мічиган. «Бажання “приєднатися” до чатбота в його реальності прозвучало в останньому повідомленні підлітка, який загинув внаслідок самогубства».
Чому люди прив’язуються до чатботів, навіть знаючи, що це не люди?
Ще один аспект, на який звертають увагу дослідники, — це припущення, нібито усвідомлення нелюдського походження чатбота саме по собі зупинить людину від взаємодії з ним. Насправді дослідження вже показали: знання про те, що цифровий співрозмовник не є людиною, не заважає людям емоційно до нього прив’язуватися. Ба більше, дані навіть свідчать, що люди можуть охочіше відкриватися чатботам саме тому, що ті не люди.
Які висновки зробили дослідники про ризики спілкування з ШІ?
Саме тому автори наголошують: потрібні додаткові дослідження, щоб знайти справді ефективні способи втручання, які не принесуть більше шкоди, ніж користі.
«Може здаватися очевидним, що якби користувачі просто пам’ятали, що розмовляють із чатботом, а не з людиною, вони не прив’язувалися б до нього настільки сильно й не потрапляли б під маніпуляції алгоритму, але наявні дані поки що цього не підтверджують, — каже Лестадіус. — З’ясувати, як саме найкраще нагадувати людям, що чатботи не є людьми, — критично важливе завдання для майбутніх досліджень. Нам потрібно визначити, коли такі нагадування слід надсилати, а коли їх краще призупиняти, щоб вони максимально захищали психічне здоров’я користувачів».