Оголошення AI Overviews. Джерело: GoogleМедична безпека під загрозою: перевірки штучного інтелекту від Google сумніваютьсяТехнологічний гігант Google був змушений частково вимкнути функцію AI Overviews після розслідування британського видання The Guardian, яке виявило потенційні ризики для користувачів під час отримання медичної інформації.
Проблема генеративного ШІ в медичних консультаціяхЖурналісти виявили критичний недолік у системі реагування ШІ: алгоритм видавав узагальнені результати аналізів крові без урахування індивідуальних особливостей пацієнтів. Такий підхід може створити серйозні ризики неправильного тлумачення медичних даних.
Реакція компанії та експертівПредставники Google заявили, що внутрішня команда лікарів переглянула суперечливі запити та визнала інформацію в більшості випадків вірною. Однак Ванесса Хебдітч з British Liver Trust підкреслила, що просте видалення одного результату не вирішує фундаментальної проблеми надійності рекомендацій ШІ.
Ключовий висновокІнцидент чітко демонструє необхідність обережності під час застосування генеративного штучного інтелекту в чутливих областях, які вимагають надзвичайної точності та індивідуальної уваги.
Джерело: The Guardian
Повідомлення Google переглянув огляди штучного інтелекту для медичних запитів після скандалу з аналізами печінки з’явилося вперше на ITnet.
