Чому пацієнти нейрохірургів звинувачують ШІ-асистента у травмах під час операцій

Штучний інтелект дедалі частіше входить у медичну практику. Разом із цим зростає кількість повідомлень про про помилкові операції й травми, пов’язані з медичними пристроями на основі ШІ, повідомляє Reuters. Це викликає серйозні питання, які стосуються безпеки таких технологій у реальних операціях, від чого може залежати життя людини. Найгучніші випадки пов’язані з тим, що ШІ‑система могла неправильно визначати положення інструментів у тілі пацієнта, вводячи хірурга в оману під час операції. У декількох випадках це нібито призвело до витоку спинномозкової рідини через ніс після операції, пункції основи черепа, інсультів у пацієнтів через пошкодження великої артерії.Двоє потерпілих навіть подали судові позови в Техасі, стверджуючи, що саме ШІ у системі TruDi спричинив їхні травми. Один позов навіть стверджує, що пристрій був безпечніший до інтеграції штучного інтелекту, ніж після неї.Все частіше ШІ включають у медичні пристрої для хірургічних процедур і аналізу даних, однак ризики такі системи несуть, коли алгоритми працюють неточно або їхні результати неправильно інтерпретують.Управління з контролю за продуктами і ліками США згадує про проблеми з алгоритмами та ПЗ у ШІ пристроях в 115 звітах. Експерти кажуть, що Управління не встигає за швидким впровадженням ШІ‑технологій у медицину, частково через скорочення персоналу регулятора. Це створює ситуацію, коли багато ШІ‑пристроїв з’являються на ринку без повноцінної оцінки усіх можливих ризиків. ШІ може значно покращити точність діагностики та планування операцій, але реальні випадки несправностей показують: без обережності й ретельного тестування такі технології можуть призводити до серйозних наслідків для здоров’я людей.