Як ШІ може змінити медицину — чому це може бути небезпечно
Кількість людей, які звертаються до чат-ботів ШІ за медичною інформацією, стрімко зростає. Саме тому технологічні компанії почали створювати спеціалізовані інструменти для відповідей на питання про здоров’я, повідомляє ScienceAlert.
Проте деякі з цих застосунків можуть бути небезпечними.
Що відомо про використання ШІ у медичних консультаціях
Підписуйтеся на наші соцмережі
Компанія OpenAI у січні представила сервіс ChatGPT Health — версію чат-бота, здатну аналізувати медичні записи, дані фітнес-додатків і інформацію з носимих пристроїв для формування рекомендацій.
Подібні функції пропонує й компанія Anthropic, яка інтегрувала медичні можливості у свій чат-бот Claude для частини користувачів.
Водночас розробники наголошують: великі мовні моделі не повинні змінювати професійну медичну допомогу. Чат-боти можуть лише пояснювати складні результати аналізів, допомагати готуватися до візиту до лікаря або аналізувати загальні тренди здоров’я.
За словами професора медичних наук Каліфорнійського Університету Роберта Вотчера, ШІ-системи здатні надавати більш персоналізовану інформацію, ніж звичайний пошук у Google. Сучасні чат-боти можуть враховувати вік, історію лікування, призначені препарати та інші дані, якщо користувач надає їм доступ до інформації.
Коли ШІ-консультацію краще не використовувати в медичних питаннях
Декан Стенфордського Університету Ллойд Мінор наголошує, що у важливих медичних рішеннях не можна покладатися лише на відповіді мовних моделей.
При симптомах, які можуть свідчити про невідкладний стан, потрібно негайно звертатися до лікаря. Це стосується болі у грудях, задишки, сильного головного болю чи інших ознак екстреного стану.
Крім того, за даними вчених з Оксфордського Університету, чат-боти з ШІ можуть помилятися. Проблеми виникають під час живої взаємодії з користувачами — люди часто не надають достатньо інформації для точної оцінки симптомів, а штучний інтелект іноді може генерувати частково некоректні рекомендації.