Вчені з Університету штату Мічиган дійшли невтішного висновку щодо застосування штучного інтелекту в астробіології: сучасні нейромережі можуть бути вкрайненадійними, коли йдеться про пошук ознак позаземного життя, повідомляєNo worries
Дослідники перевіряли, наскільки точно ШІ здатен розпізнавати біомаркери - сигнали, що можуть вказувати на існування живих організмів. Для цього вони скористалися розробленою в університеті системою Avida, яка моделює цифрову еволюцію. У ній віртуальні організми представлені програмним кодом, що самокопіюється і поступово накопичує випадкові зміни - аналог біологічної еволюції. Нейромережу навчили на десятках тисяч таких цифрових організмів: частина з них містила команду самокопіювання, частина - ні. На знайомих даних алгоритм показав майже ідеальну точність класифікації.
Проте коли вчені почали поступово змінювати код організмів і показувати моделі варіанти, яких вона раніше не бачила, система давала збій. Іноді вистачало лише 150 незначних змін у коді, щоб алгоритм впевнено приймав хибні сигнали за ознаки життя. За словами одного з авторів дослідження Анкіта Гупти,
незалежно від обраної послідовності змін команді вдавалося обдурити модель у 100% випадків. «У штучного інтелекту є ахіллесова п’ята. Він може виявити закономірність і повністю хибно її класифікувати», - зазначив співавтор дослідження Крістоф Адамі. На його думку, проблема не в самій технології, а в її вразливості до даних, що відрізняються від тих, на яких проводилося навчання.
Автори підкреслюють: подібні помилки характерні не лише для космічних застосувань, де ШІ може аналізувати дані з марсоходів або міжпланетних зондів без постійного нагляду фахівців. Аналогічні збої здатні виникати в системах розпізнавання облич, безпілотному транспорті, медичній діагностиці та інших сферах, де рішення приймає модель. Дослідники наполягають: штучний інтелект має залишатися допоміжним інструментом, а його висновки потребують незалежної перевірки. Особливо це стосується наукового пошуку - зокрема, можливого відкриття позаземного життя, де людина, на переконання Крістофа Адамі, є обов’язковою ланкою в ухваленні рішень.
