Після розслідування The Guardian минулого місяця компанія Google видалила з пошуку частину медичних оглядів штучного інтелекту, які надавали потенційно небезпечну та оманливу інформацію про результати аналізів. Проте нове розслідування The Guardian виявило іншу проблему — Google наражає користувачів на небезпечку, применшуючи важливість застережень щодо медичних порад, згенерованих штучним інтелектом.
Застереження з’являється лише після натискання кнопки “Показати більше” під зведенням, і навіть тоді воно розміщене внизу сторінки меншим і світлішим шрифтом. У тексті попередження зазначено: “Інформація призначена лише для довідки. Щоб отримати медичну консультацію або встановити діагноз, зверніться до спеціаліста. Відповіді ШІ можуть містити помилки”.
Приклад відповіді Google AI.
Скріншот ZN.UA
У Google заявили, що огляди ШІ “заохочують людей звертатися за професійною медичною допомогою” та згадують про це в самому тексті, “коли це доречно”. Водночас компанія не заперечила, що під час першої демонстрації медичної поради окреме застереження не відображається.
ВАС ЗАЦІКАВИТЬ
Експерти з етики штучного інтелекту та представники пацієнтських організацій висловили занепокоєння. Вони наголошують, що застереження мають бути помітними з самого початку, адже йдеться про чутливу сферу охорони здоров’я.
Пет Патаранутапорн, дослідник Массачусетського технологічного інституту, зазначив: “Відсутність застережень під час першого надання користувачам медичної інформації створює кілька критичних небезпек”. За його словами, навіть найсучасніші моделі ШІ можуть генерувати дезінформацію або надавати відповіді, орієнтовані на задоволення користувача, а не на точність.
“Застереження слугують вирішальним моментом втручання. Вони порушують цю автоматичну довіру та спонукають користувачів більш критично ставитися до отриманої інформації”, — додав дослідник.
ВАС ЗАЦІКАВИТЬ
Використання ШІ для медичних порад може бути небезпечним для пацієнтів — дослідження
Професорка Лондонського університету королеви Марії Джина Нефф заявила, що “проблема з поганими оглядами ШІ є задумом”.
За її словами, огляди розроблені для швидкості, а не точності, що може бути небезпечним у сфері медичної інформації.
Соналі Шарма з Центру штучного інтелекту в медицині та візуалізації Стенфордського університету звернула увагу на розміщення оглядів у верхній частині сторінки. За її словами, це створює відчуття повної відповіді та може зменшувати мотивацію користувачів шукати додаткову інформацію чи переглядати застереження.
“Ми знаємо, що дезінформація — це реальна проблема, але коли йдеться про дезінформацію щодо здоров’я, вона потенційно дуже небезпечна”, — заявив Том Бішоп з благодійної організації Anthony Nolan та додав, що попередження має бути розміщене в самому верху і таким шрифтом, як основний текст.
У січні The Guardian вже повідомляло про ризики, пов’язані з неправдивою та оманливою інформацією про здоров’я в оглядах Google AI. Після публікації компанія видалила огляди ШІ для частини медичних запитів, але не для всіх.
