Допоміжний інструмент чи потенційна загроза: виклики масового використання штучного інтелекту ставлять під ризик не тільки креативну сферу діяльності. Медицина також може постраждати від безпечного залучення машин у галузь охорони здоров’я. Всесвітня організація охорони здоров’я (ВООЗ) опублікувала перший глобальний звіт про використання штучного інтелекту (ШІ) в медицині та озвучила основні принципи під час його розробки. В організації закликали до безпечного та етичного використання ШІ.
Згідно з доповіддю, ШІ відкриває великі перспективи для поліпшення медичної допомоги й системи охорони здоров’я в усьому світі. Однак етика та права людини повинні лягти в основу його розробки й використання.
ВООЗ закликає контролювати якість інформації, на якій навчають ШІВООЗ, зокрема, рекомендує виявляти обережність при використанні інструментів великої мовної моделі (LLM), створених штучним інтелектом. Це необхідно для захисту та просування благополуччя, безпеки та автономії людини.
LLM включають деякі з платформ, що швидко розвиваються. Це, зокрема, ChatGPT, Bard, Bert і багато інших,
які імітують розуміння, обробку і створення людського спілкування. Їх стрімке публічне поширення та зростаюче експериментальне використання у сфері охорони здоров’я, викликає значний інтерес у зв’язку з потенціалом задоволення широких потреб людей.
Вкрай важливо ретельно вивчити ризики для покращення доступу до медичної інформації як інструменту підтримки прийняття рішень або навіть для розширення діагностичних можливостей. Поспішне впровадження неперевірених систем може призвести до помилок медичних працівників, завдати шкоди пацієнтам, підірвати довіру до ШІ і цим відстрочити потенційні довгострокові переваги та використання таких технологій у всьому світі.
ШІ може мимоволі стати генератором дезінформаціїДані, які використовуються для навчання ШІ, можуть бути необ’єктивними. У результаті, помилкова, неправильна, необ’єктивна інформація потрапить у систему і сане основою для тверджень і суджень, які потім видає ШІ. А це сприятиме генеруванню неправдивої або неточної інформації, яка може становити ризик для сфери охорони здоров’я. LLM генерують відповіді, які можуть здатися кінцевим користувачам авторитетними та правдоподібними.
Однак ці відповіді можуть бути абсолютно невірними або містити серйозні помилки.
Крім того, LLM можуть навчатися на даних, для яких раніше не було згоди на таке використання. Таким чином, не захищені конфіденційні дані можуть потрапити у відкритий доступ та обіг.
А в результаті ШІ може бути задіяний для створення і розповсюдження вельми переконливої дезінформації. І на тлі такої проблеми публічний опір плановій вакцинації та зниження колективного імунітету до агресивних інфекцій, які медикам сьогодні доводиться долати в багатьох країнах, може здатися дитячою забавкою.
Зверніть увагу, раніше HUBZ розповідав, де шукати доказову медичну інформацію.
Запис ВООЗ закликає до безпечного використання ШІ спершу з'явиться на HUBZ - інформаційна агенція.
