Apple і Google продовжують розміщувати й просувати у своїх магазинах додатки, які «роздягають» людей або вставляють їх у порнографічні відео, попри заборону такого контенту. Частину з них позначили як придатні для дітей.
Про це йдеться у звіті Tech Transparency Project. Як зазначають дослідники, через пошук за словами «nudify» чи «undress» користувачі можуть знайти програми, що створюють оголені зображення реальних людей або вставляють їх у відео сексуального характеру.
У звіті сказано, що платформи фактично сприяють поширенню інструментів, які перетворюють фото людей на сексуалізовані зображення. Крім того, у результатах пошуку показували рекламу подібних додатків.
Дослідники виявили 18 таких програм в App Store і 20 у Google Play. Частина з них прямо використовувала сексуальні зображення для просування, інші не рекламувалися так відкрито, але все одно дозволяли створювати діпфейки. Загалом ці додатки принесли близько 122 мільйонів доларів доходу і були завантажені 483 мільйони разів.
Керівниця проєкту Кеті Пол заявила, що проблема не лише в тому, що компанії не перевіряють ці програми належним чином і продовжують їх схвалювати та заробляти на них.
За її словами, платформи самі спрямовують користувачів до таких додатків.
Обидві компанії мають правила, які забороняють сексуальний або порнографічний контент, а Google окремо забороняє додатки для «роздягання». В Apple повідомили, що видалили 15 програм зі списку дослідників, а в Google заявили, що призупинили частину з них.
Один із додатків, Video Face Swap AI: DeepFace, рекламувався через заміну обличчя акторки на тіло іншої і дозволяв вставляти обличчя реальної людини на тіла частково роздягнених жінок. Водночас він мав позначку «для всіх».
Поширення таких програм змушує уряди готувати обмеження. У Великій Британії закликали заборонити додатки, які створюють оголені або сексуальні зображення дітей за допомогою ШІ. У США та інших країнах уже пропонують або запроваджують закони проти відвертих діпфейків.
У Google заявили, що не дозволяють додатки із сексуальним контентом, перевіряють порушення і вже заблокували багато програм зі звіту. У компанії додали, що перевірки тривають.
Читайте також:
