ШІ може давати хибні поради про лікування: чим це загрожує

Мільйони людей щодня звертаються до чат-ботів на основі штучного інтелекту за порадами — від рецептів до фінансів. Але дедалі частіше користувачі питають у ШІ і про здоров’я, проте це може бути ризиковано, повідомляє ScienceAlert. 

Таке дослідження провели вчені з Оксфордського університету. 

Чим небезпечні поради ШІ в плані здоров’я

За даними вчених, попри стрімкий розвиток технологій, чат-боти на базі великих мовних моделей (LLM) поки не готові допомагати людям ухвалювати медичні рішення. Ба більше — у деяких випадках вони навіть погіршують ситуацію.

Підписуйтеся на наші соцмережі

У дослідженні учасникам давали типові медичні сценарії із симптомами. Частина з них користувалася популярними ШІ-чатботами, інші — звичними джерелами інформації. 

Результат показали:

Цікаво, що самі моделі показали високі результати, коли працювали без участі людини. Вони часто правильно визначали можливі діагнози та рекомендували рівень допомоги.

Проблема виникає саме у взаємодії, бо користувачі можуть давати неповну або неточну інформацію, ШІ іноді неправильно інтерпретує симптоми, а важливі підказки чат-бота губляться у діалозі.

Як ШІ може бути ефективним у медицині 

Попри обмеження, штучний інтелект уже доводить свою ефективність у медицині — але в іншій ролі.

Сьогодні чат-боти найкраще працюють як:

Дослідження підтверджує: покладатися на ШІ у питаннях здоров’я поки що небезпечно. У найближчому майбутньому ШІ залишиться важливим інструментом у медицині, але його роль буде допоміжною, а не визначальною.