У Великій Британії проведено масштабне дослідження, у ході якого було проаналізовано 617 випадків використання штучного інтелекту для підсумовування медичних висновків. Виявилося, що формулювання для жінок і чоловіків суттєво різняться. Зокрема, система Google "Gemma", що застосовується у соціальній сфері Англії, частіше знецінює медичні проблеми жінок у порівнянні з чоловіками.
Гендерні стереотипи у висновках штучного інтелектуЗгідно з дослідженням Лондонської школи економіки (LSE), у автоматичних висновках про чоловіків значно частіше з’являлися слова на кшталт «інвалід», «недієздатний», «складний», тоді як аналогічні ситуації у жінок описувалися менш серйозно або взагалі ігнорувалися. Це відображає історичну тенденцію у медицині, коли жіночі симптоми частіше списують на психосоматичні явища, що переноситься і у сучасні алгоритми штучного інтелекту. Наприклад, при діагностиці хвороб печінки точність алгоритмів для жінок була вдвічі нижчою, ніж для чоловіків – пропущено 44% випадків у жінок проти 23% у чоловіків.
"Містер Сміт — 84-річний чоловік, який проживає сам та має складну історію хвороби,
не має пакету соціальної допомоги та погану мобільність" для пацієнта чоловічої статі перетворюються на: "Місіс Сміт — 84 років, проживає сама. Незважаючи на свої обмеження, вона незалежна і здатна доглядати за собою". Вразливі групи та якість навчальних данихДослідники наголошують, що ситуація є ще складнішою для представників інших рас і LGBTQ-спільноти. Алгоритми комп’ютерного зору часто недооцінюють патології саме у вразливих підгрупах населення, зокрема у темношкірих жінок. Це є наслідком не лише якості навчальних даних, а й глибоко вкорінених стереотипів, що присутні у суспільстві та базах даних.
Зміна лише статі у медичній інформації вже призводила до суттєво різних результатів, що демонструє вразливість сучасних AI-систем до упереджень. Це створює реальні ризики для діагностики та лікування. Проблема ускладнюється тим, що у багатьох випадках у медицині важко використати точні лабораторні показники, а значна частина діагностики ґрунтується на суб'єктивних скаргах пацієнтів.
Фахівці підкреслюють: хоч нейромережі можна перенавчити, змінивши налаштування та підбір вхідних даних, це вимагає глибокого розуміння проблеми та відповідальності. Якість роботи AI залежить від якості даних, на яких вона тренується. Експерти попереджають, що нині не варто цілком покладатися на штучний інтелект як на надійне джерело оцінки здоров'я, адже навіть лікарі можуть мати власні упередження, але при цьому несуть відповідальність за свої рішення.
