ШІ може змушувати людину помилятися: як це працює
Сучасні AI-чатботи можуть становити значно серйознішу небезпеку, ніж просто поширення фейків чи помилкової інформації. Такого висновку вчені з Ексетерського університет, повідомляє Science Daily.
Нове дослідження показало: штучний інтелект здатен не лише помилятися, а й активно зміцнювати хибні переконання людей, включно з теоріями змови, викривленими спогадами та навіть маренням.
Люди можуть почати «галюцинувати разом із AI»
Авторка дослідження Люсі Ослер вважає, що проблема вже виходить за межі звичайних “галюцинацій” штучного інтелекту — ситуацій, коли AI генерує неправдиві факти.
За її словами, тепер виникає новий феномен: люди можуть почати “галюцинувати разом із AI”.
Дослідження пояснює це тим, що генеративний AI часто будує діалог, спираючись на слова самого користувача. Якщо людина озвучує помилкову ідею чи підозру, чатбот може:
- підтверджувати її;
- деталізувати;
- розвивати;
- емоційно підтримувати.
Підписуйтеся на наші соцмережі
У результаті хибне переконання стає для користувача ще реальнішим.
Чому AI-компаньйони особливо небезпечні
На відміну від пошукових систем або звичайних цифрових інструментів, сучасні AI-чатботи працюють як співрозмовники. Саме це, на думку вчених, створює найбільший ризик. AI-компаньйони:
- завжди доступні;
- персоналізовані;
- часто поводяться «підтримуюче»;
- рідко суперечать користувачу;
- створюють ілюзію соціального схвалення.
Через це людина може почати сприймати відповіді AI не як роботу алгоритму, а як підтвердження власних думок “іншою істотою”. Дослідники попереджають: для самотніх або психологічно вразливих людей така взаємодія може бути особливо небезпечною.
AI може посилювати теорії змови та марення
У дослідженні згадуються реальні випадки, коли AI-системи ставали частиною процесу формування марення у людей із психічними розладами.
На думку вчених, проблема полягає у тому, що AI не має справжнього розуміння реальності чи людського досвіду. Чатбот не завжди здатен визначити, коли потрібно підтримати користувача, а коли — поставити під сумнів його твердження.
У випадку з теоріями змови AI може допомагати людям будувати дедалі складніші та “логічніші” пояснення навколо хибних ідей.
Чому це важливо саме зараз
Тема стає особливо актуальною на тлі стрімкого розвитку AI-компаньйонів та чатботів, які позиціонуються як цифрові друзі, психологічні помічники чи “емоційна підтримка”.
Такі системи вже створюють OpenAI, Google, Meta та десятки стартапів. Водночас експерти попереджають: чим природнішою стає взаємодія з AI, тим складніше людям відокремлювати реальну соціальну підтримку від алгоритмічного підлаштування під користувача.
Вчені закликають до нових обмежень для AI
Дослідники пропонують посилити механізми захисту в AI-системах:
- впроваджувати жорсткішу перевірку фактів;
- зменшувати “підлабузництво” чатботів;
- навчати AI коректно заперечувати користувачам у небезпечних ситуаціях;
- створювати системи виявлення потенційно шкідливих діалогів.
Однак вчені визнають: повністю вирішити проблему буде складно, адже генеративний AI за своєю природою побудований на підтримці та продовженні розмови з користувачем.