Штучний інтелект буває расистом і сексистом. Але він вже визначає, кого брати на роботу, як лікувати і чи арештовувати
Після того, як користувачі соцмережі дивилися відео з чорношкірим чоловіком, алгоритм питав, чи хотіли б вони "й надалі дивитися відео про приматів". Facebook заявив, що це була неприпустима помилка штучного інтелекту, й люди відключили всю рекомендацію на основі тем після того, як це виявили.
Скріншот рекомендації.
На відео йшлося про те, як білий чоловік викликав поліцію на чорношкірих.
Як відомо, в 2015 році Google теж мусив вибачатися, коли його додаток помилково визначив чорношкірих людей як горил. Згодом чатбот Microsoft під назвою Tay навчився від людей расистських зауважень, і його мусили відключити.
Як показує дослідження, штучний інтелект часто навчається від людей, які задають в нього дані - і при цьому ПОСИЛЮЄ їхні упередження. Як правило, штучний інтелект найбільше вчиться від "білих чоловіків середнього та вищого достатку", які є інженерами.
