ШІ рветься в лікарні: чому OpenAI і Anthropic мовчать про помилки віртуальних лікарів
3 хвилин читання
OpenAI і Anthropic створили штучний інтелект для медицини. Він уже роздає людям поради щодо здоров’я і допомагає медикам у лікарнях. Але компанії не говорять головного — як часто їхній ШІ помиляється, а в медицині одна помилка може коштувати життя, пише Bloomberg.
Що відомо про ШІ для медицини від OpenAI
- OpenAI представила ChatGPT Health — інструмент штучного інтелекту для питань про здоров’я. Люди можуть запитувати про симптоми, аналізи чи самопочуття. За бажанням до нього навіть можна підключити медичні записи або дані з фітнес-застосунків.
- Компанія каже, що сервіс «не ставить діагнози». Але на практиці мільйони людей уже використовують його саме для цього.
- Також OpenAI тестує версію ChatGPT для лікарів. Її вже випробовують у кількох великих лікарнях США.
Підписуйтеся на наші соцмережі
Читайте також:
Компанія Anthropic тимчасово зупинила роботу своїх нових моделей штучного інтелекту Claude Fable 5 та Mythos 5 після вимог американської влади, яка висловила занепокоєння щодо їхніх можливостей у сфері кібербезпеки.
Що відомо про ШІ для медицини від Anthropic
- Компанія Anthropic запустила медичну версію чатбота Claude. Вона створена спеціально для лікарів і допомагає з документами, кодами діагнозів і пошуком можливих хвороб.
- Anthropic заявляє, що її ШІ дуже точно працює з медичними кодами. Але коли мова заходить про реальні клінічні рішення, точних даних майже немає.
- В одному з тестів ШІ правильно виконав лише близько 60% медичних завдань. А для медицини це, звісно, небезпечно мало.
Чому Google не створив ШІ для медицини
- Що цікаво, Google майже не бере участі в цій гонці. Причина всьому — поганий досвід у минулому.
- Компанію не раз звинувачували в тому, що вона отримувала доступ до медичних даних без чіткої згоди людей. Через це кілька медичних проєктів закрили.
- Люди просто не довіряли Google своє здоров’я, тому навряд би довірили ставити діагнози замість лікарів.
У чому головна загроза ШІ в медицині
- Штучний інтелект іноді вигадує відповіді, які звучать переконливо, але не відповідають дійсності. Це називають галюцинаціями ШІ.
- У побутових питаннях це, загалом, не страшно. Але в медицині така помилка може призвести до неправильного лікування або втрати часу.
- Компанії визнають проблему, але не кажуть, як часто це трапляється.
- І самі ж визнають, що ШІ не повинен нічого вигадувати. Але без чесних цифр про помилки, звісно, довіри до цих систем немає.
- Тож поки ШІ точно не замінить лікарів, хоча й може стати допоміжним інструментом. На щастя, за лікування і життя людей досі відповідає жива людина, а не алгоритм ШІ.
Раніше SPEKA писала, що лікарі використовують ШІ для допомоги пацієнтам. За статистикою, штучний інтелект використовує кожен п'ятий лікар у Великій Британії. Вони використовують генеративний ШІ для того, щоб створювати документи після призначення, прийняти клінічні рішення і надавати інформацію пацієнтам, зокрема планів лікування та ясності виписок.