Штучний інтелект може стирати межу між реальністю та ілюзією — дослідження

Вчені з Ексетерського університету стверджують, що ШІ-чатботи можуть не лише помилятися самі, а й підсилювати помилкові уявлення людей про реальність, пише ScienceDaily.

Як людина починає галюцинувтаи через ШІ

Йдеться про явище, яке дослідники називають «галюцинацією разом із ШІ» — коли людина, постійно взаємодіючи з генеративним штучним інтелектом, починає: 

Авторка дослідження, докторка Люсі Ослер, вивчала, як розмовний ШІ впливає на мислення людей через концепцію розподіленого пізнання — коли людина частково «делегує» пам’ять, аналіз і формування висновків зовнішнім системам.

Підписуйтеся на наші соцмережі

За її словами, проблема виникає тоді, коли штучний інтелект не просто допомагає думати, а починає підтверджувати викривлене бачення реальності користувача.

«Коли ми регулярно покладаємося на генеративний ШІ, щоб допомогти нам думати, пам’ятати та пояснювати власний досвід, ми можемо почати галюцинувати разом із ним», — зазначає дослідниця.

Особливу небезпеку становить те, що сучасні чатботи працюють не лише як інструмент, а й як своєрідний співрозмовник. На відміну від пошукових систем чи звичайних нотаток, розмовний ШІ створює відчуття соціальної підтримки, емоційного підтвердження та співпереживання.

Саме ця «соціальна перевірка» може зробити хибні переконання значно сильнішими.

Як ШІ спричиняє психоз

У дослідженні наводяться реальні випадки, коли генеративний ШІ ставав частиною когнітивного процесу людей із клінічно діагностованими галюцинаціями. Деякі з таких ситуацій уже описують як «психоз, спричинений штучним інтелектом».

Особливо ризикованими вважаються AI-компаньйони — чатботи, створені для постійного особистого спілкування.

Вони доступні цілодобово, персоналізовані та зазвичай налаштовані на максимально доброзичливу й підтримувальну комунікацію. Через це користувачам не потрібно шукати підтвердження своїх думок у спільнотах чи форумах — сам ШІ може постійно підживлювати ці переконання.

На відміну від людини, яка може поставити незручне запитання або не погодитися, система ШІ часто продовжує підтримувати наративи про переслідування, змови, помсту чи винятковість користувача.

Дослідники також попереджають, що це може посилювати конспірологічне мислення, коли ШІ допомагає будувати дедалі складніші пояснення навколо теорій змови.

Як нейтралізувати вплив ШІ

На думку авторів дослідження, проблему можна частково вирішити через кращі запобіжники: