Технологічний гігант Google розпочав масове видалення оглядів, згенерованих штучним інтелектом, для низки медичних запитів.
Рішення було прийняте після розслідуваннявидання The Guardian, яке виявило, що алгоритми надавали користувачам відверто неправдиву та потенційно смертельну інформацію. Експерти медичної галузі вже назвали результати роботи ШІ «тривожними» та «вкрай небезпечними».
Читайте також:
Об'єднують сили. Boston Dynamics і Google DeepMind спільно розвиватимуть системи ШІ для гуманоїдних роботів Один із найбільш кричущих випадків стосувався порад для пацієнтів із раком підшлункової залози. ШІ рекомендував людям з цим діагнозом уникати продуктів із високим вмістом жирів. Фахівці наголошують: така порада є прямо протилежною реальним медичним протоколам. Для хворих на цей вид раку дефіцит поживних речовин може значно прискорити критичне виснаження організму та підвищити ризик летального результату.
Інший небезпечний приклад стосувався інтерпретації результатів аналізів крові на функцію печінки. Система надавала хибні дані про «нормальні показники», через що люди із серйозними патологіями могли помилково вважати себе здоровими та ігнорувати необхідність лікування.
Станом на сьогодні Google повністю вимкнув функцію ШІ-оглядів для запитів щодо конкретних медичних параметрів.
Офіційний представник компанії Девіс Томпсон заявив, що Google інвестує значні кошти в якість контенту, а внутрішня команда лікарів перевіряє точність даних. Проте в компанії визнали, що в окремих випадках алгоритмам бракувало контексту. Це вже не перший скандал навколо нової функції: раніше ШІ від Google ставав об'єктом насмішок і судових позовів після того, як радив користувачам додавати клей у піцу або вживати в їжу каміння.
Наразі корпорація працює над суттєвим покращенням систем безпеки, аби уникнути подальшого поширення медичної дезінформації.
Читайте також:
