Чому пацієнти нейрохірургів звинувачують ШІ-асистента у травмах під час операцій

Штучний інтелект дедалі частіше входить у медичну практику. Водночас зростає кількість повідомлень про помилкові операції й травми, пов’язані з медичними пристроями на основі ШІ, повідомляє Reuters. 

Це викликає серйозні питання, які стосуються безпеки таких технологій у реальних операціях, від чого може залежати життя людини. 

Як ШІ-асистенти впливають на операції 

Підписуйтеся на наші соцмережі

Найгучніші випадки пов’язані з тим, що ШІ‑система могла неправильно визначати положення інструментів у тілі пацієнта, вводячи хірурга в оману під час операції. У декількох випадках це нібито призвело до витоку спинномозкової рідини через ніс після операції, пункції основи черепа, інсультів у пацієнтів через пошкодження великої артерії.

Двоє потерпілих навіть подали судові позови у Техасі, стверджуючи, що саме ШІ у системі TruDi спричинив їхні травми. Один позов навіть стверджує, що пристрій був безпечніший до інтеграції штучного інтелекту, ніж після неї.

Дедалі частіше ШІ включають у медичні пристрої для хірургічних процедур і аналізу даних, однак ризики такі системи несуть, коли алгоритми працюють неточно або їхні результати неправильно інтерпретують.

Управління з контролю за продуктами і ліками США згадує про проблеми з алгоритмами та ПЗ у ШІ пристроях у 115 звітах. Експерти кажуть, що Управління не встигає за швидким впровадженням ШІ‑технологій у медицину, частково через скорочення персоналу регулятора. Це створює ситуацію, коли багато ШІ‑пристроїв з’являються на ринку без повноцінної оцінки усіх можливих ризиків. 

Як це може вплинути на лікування у майбутньому

ШІ може значно покращити точність діагностики та планування операцій, але реальні випадки несправностей показують: без обережності й ретельного тестування такі технології можуть призводити до серйозних наслідків для здоров’я людей.