Сучасні нейромережі здатні не тільки швидко обробляти зображення, але і знаходити людей по фотографії в соціальних мережах або блогах. Група дослідників з Чиказького університету представила оригінальний додаток під назвою Fawkes-за словами розробників, він здатний не тільки приховати користувача від «очей» систем розпізнавання облич, але і «отруїти» їх алгоритми.
За словами творців програми, вона маскує знімок «на рівні окремих пікселів», замінюючи певні ключові точки зображення фрагментами інших фотографій — наприклад, додаючи невеликі ділянки обличчя людини іншої статі, вибираючи максимально несхожі на оригінал знімки зі спеціального архіву. При цьому модифікації практично не видно неозброєним оком, але для пошукових систем, як запевняють дослідники, картинка змінюється досить істотно, а їх алгоритми дають збій і втрачають свою ефективність через «неправильне навчання».
Розробники стверджують, що їх програмному забезпеченню вже вдалося обдурити системи пошуку Amazon, Microsoft і китайської Megvii, а в перспективі Fawkes зможе “протистояти” і алгоритмам Clearview AI-софта для розпізнавання облич, використовуваного приватними компаніями і правоохоронними органами з мільярдами фотографій з інтернету в єдиній базі.
“Наша мета-змусити Clearview піти”, – заявив Бен Чжао, професор комп’ютерних наук в Чиказькому університеті.
На поточному етапі розробки Fawkes не завжди функціонує коректно, проте дослідники продовжують модифікувати додаток і сподіваються на те, що з часом люди почнуть обробляти подібним чином всі завантажені ними в мережу зображення. А в разі впровадження відповідного інструменту у велику платформу на зразок соціальної мережі, що має доступ до великої кількості зображень, такі компанії, як Clearview, за словами вчених, не зможуть створювати працюючі бази даних з особистими фотографіями користувачів.
Джерело: nytimes.com
