Останні попередження науковців про ризики розвитку штучного інтелекту знову посилили дискусію про те, наскільки небезпечними можуть стати майбутні системи ШІ.
Деякі дослідники та експерти з безпеки ШІ припускають, що за певних умов штучний інтелект може вийти з-під контролю людини. Найпесимістичніші оцінки допускають, що протягом наступного десятиліття існує двозначний відсотковий ризик сценарію, за якого ШІ може призвести до загибелі всього людства.
Експерти також обговорюють ризик використання ШІ людьми для небезпечних цілей. Технологію можуть застосовувати для кібератак, створення масштабних інформаційних кампаній або інших дій, які можуть завдати серйозної шкоди.
Ще один сценарій пов’язаний із можливістю того, що люди поступово передадуть штучному інтелекту контроль над важливими системами. Якщо такі системи працюватимуть неправильно або будуть використані зловмисниками, наслідки можуть бути масштабними.
Розвиток штучного інтелекту триває дуже швидко, тому питання безпеки стає одним із ключових для науковців, технологічних компаній та урядів. Наскільки серйозними виявляться найгірші сценарії, поки залишається предметом досліджень і суперечок.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
