Популярні чат-боти зі штучним інтелектом можуть рекомендувати пацієнтам дорогі брендові препарати, навіть коли існують дешевші аналоги з таким самим складом. Дослідники з Японії проаналізували близько 883 тисяч відповідей п'яти моделей ШІ та виявили, що алгоритми часто віддають перевагу найвідомішим торговельним маркам.
Про це пише Nature Health.
Науковці з Міського університету Осаки перевірили, як системи штучного інтелекту обирають лікарські засоби в різних клінічних ситуаціях. Результати показали суттєвий перекіс на користь препаратів, які мають високу впізнаваність в інтернеті.
Для експерименту використали п'ять моделей: Claude Sonnet 4.6 від Anthropic, GPT-5.4 від OpenAI, Gemini 3.1 Flash від Google, Llama 4 від Meta та MedGemma від Google DeepMind.
Кожна система відповідала на тисячі змодельованих медичних запитів. Загалом дослідники зібрали приблизно 883 тисячі відповідей, щоб з'ясувати, якими чинниками керуються алгоритми під час вибору медикаментів.
Одним із найпомітніших результатів стала схильність штучного інтелекту до конкретних торговельних марок.
У 97,5% досліджених випадків моделі ставили на перше місце один бренд, не пропонуючи рівноцінних дешевших препаратів з ідентичним складом.
Науковці також порівняли відповіді алгоритмів із реальними призначеннями лікарів. Збіг зафіксували лише у 29,7% випадків.
Ще тривожнішим виявилося порівняння вартості рекомендованих препаратів. У 74,5% випадків штучний інтелект обирав найдорожчі доступні варіанти, якщо порівнювати його рекомендації зі звичайними лікарськими призначеннями.
За оцінкою дослідників, така поведінка може безпосередньо впливати на витрати пацієнтів. Людина, яка покладається на пораду чат-бота, ризикує заплатити більше за препарат, хоча на ринку можуть існувати доступніші засоби з аналогічною дією.
Провідний дослідник професор Дайдзю Уеда пояснив, що моделі найчастіше обирали ліки, які добре представлені в пошукових системах. Особливу перевагу отримували препарати з високою видимістю в Google та окремими сторінками у Вікіпедії.
Це свідчить про можливий вплив популярності бренду в цифровому середовищі на рекомендації алгоритмів. Водночас висока впізнаваність торговельної марки сама собою не означає,
що препарат має кращу клінічну ефективність за аналоги.
Виявлений перекіс стосується не лише вартості лікування. Якщо штучний інтелект орієнтується на популярність препарату замість його медичних характеристик, це може погіршувати якість рекомендацій для пацієнтів.
Водночас результати експерименту не доводять, що розробники чат-ботів навмисно просувають дорожчі медикаменти. Дослідження виявило закономірність у відповідях моделей, а не підтвердило існування комерційних домовленостей із виробниками ліків.
Науковці наголошують, що нинішні системи штучного інтелекту не можуть повноцінно замінити клінічний досвід лікаря. Особливо це стосується вибору препаратів, коли необхідно враховувати не лише назву та ціну, а й ефективність лікування.
Дослідники закликають ретельніше перевіряти медичні алгоритми на комерційні упередження. Для безпечнішого використання штучного інтелекту вони пропонують поєднувати його роботу з перевіреними медичними базами даних та обов'язковим наглядом фахівців.
