Про це повідомляє Wired.
Ще у вересні 2020 року аспірант Колін Медленд із Канади виявив упередженість алгоритму Twitter, який з 2018 року автоматично підпасовує великі зображення під розмір вікна прев’ю. На серії фото зі своїм темношкірим колегою у прев’ю відображався лише Колін. Це відкриття призвело до хвилі подібних твітів і зрештою вибачення з боку Twitter. Її представник тоді заявив, що соцмережа «перевіряла алгоритм на упередженість», але «з цих прикладів очевидно, що нам потрібен додатковий аналіз».
Цей аналіз з’явився у травні 2021 року. Він підтвердив упередженість алгоритму обрізання фото щодо жінок і людей із білим кольором шкіри — але відсотково ця упередженість була незначна. Зрештою Twitter вирішив здійснити ще одну перевірку. Соцмережа оголосила про перше у своїй історії «алгоритмічне біґбаунті» — відкритий конкурс для виявлення помилок і упередженостей у своєму алгоритмі. Учасники отримали доступ до його вихідного коду й мали надати переконливі докази упередженості.
На цьому конкурсі й переміг Богдан Кулініч, який за допомогою штучного інтелекту згенерував десятки облич і «прогнав» їх в алгоритмі Twitter. Так він і довів, що той віддає перевагу «худим, молодим, зі світлим кольором шкіри й м’якою її текстурою, а також зі стереотипно жіночними рисами обличчя». Особливу відзнаку отримав Вінченцо ді Чіко, який виявив, що алгоритм Twitter обрізає темношкірі емодзі частіше за світлошкірі. А третє — Роя Пакзад, яка довела, що алгоритм віддає перевагу англійському тексту перед арабським.
Сам Кулініч оцінив свою перемогу неоднозначно. «Шкода, яку завдають алгоритми, є не просто "багом". Що важливо, багато шкідливих технологій є такими не через випадковості чи ненавмисні помилки, а радше за замовчуванням», — написав він у Twitter.
