Як ШІ може змінити медицину — чому це може бути небезпечно

Кількість людей, які звертаються до чат-ботів ШІ за медичною інформацією, стрімко зростає. Саме тому технологічні компанії почали створювати спеціалізовані інструменти для відповідей на питання про здоров’я, повідомляє ScienceAlert. 

Проте деякі з цих застосунків можуть бути небезпечними. 

Що відомо про використання ШІ у медичних консультаціях 

Підписуйтеся на наші соцмережі

Компанія OpenAI у січні представила сервіс ChatGPT Health — версію чат-бота, здатну аналізувати медичні записи, дані фітнес-додатків і інформацію з носимих пристроїв для формування рекомендацій.

Подібні функції пропонує й компанія Anthropic, яка інтегрувала медичні можливості у свій чат-бот Claude для частини користувачів. 

Водночас розробники наголошують: великі мовні моделі не повинні змінювати професійну медичну допомогу. Чат-боти можуть лише пояснювати складні результати аналізів, допомагати готуватися до візиту до лікаря або аналізувати загальні тренди здоров’я.

За словами професора медичних наук Каліфорнійського Університету Роберта Вотчера, ШІ-системи  здатні надавати більш персоналізовану інформацію, ніж звичайний пошук у Google. Сучасні чат-боти можуть враховувати вік, історію лікування, призначені препарати та інші дані, якщо користувач надає їм доступ до інформації.

Коли ШІ-консультацію краще не використовувати в медичних питаннях 

Декан Стенфордського Університету Ллойд Мінор наголошує, що у важливих медичних рішеннях не можна покладатися лише на відповіді мовних моделей. 

При симптомах, які можуть свідчити про невідкладний стан, потрібно негайно звертатися до лікаря. Це стосується болі у грудях, задишки, сильного головного болю чи інших ознак екстреного стану. 

Крім того, за даними вчених з Оксфордського Університету, чат-боти з ШІ можуть помилятися. Проблеми виникають під час живої взаємодії з користувачами — люди часто не надають достатньо інформації для точної оцінки симптомів, а штучний інтелект іноді може генерувати частково некоректні рекомендації.