У романі Вільяма Гібсона «Нульова історія» (Zero History) головний персонаж носить найпотворнішу футболку у світі, яка чарівним чином робить власника невидимим для CCTV (система відеоспостереження). Тепер, коли держави у всьому світі впроваджують штучно інтелектуальні системи спостереження для відстеження та моніторингу громадян, ми можемо опинитися у власних потворних футболках. Дослідники з Північно-Східного університету, Массачусетського технологічного інституту та IBM розробили спеціальний малюнок. Він представлений калейдоскопною плямою з різних фігур та кольорів, яка робить користувача невидимою для штучного інтелекту камер. Цифрова диктатура майбутнього на прикладі Китаю
Google Lens отримав функцію копіювання тексту на комп’ютер
Новий розумний чип аналізує побачене за кілька наносекунд Як працює малюнок
Зазвичай, нейронна мережа розпізнає когось або щось на зображенні, малюючи «обмежувальну рамку» навколо об’єкту і навішуючи на нього ярлик. Знаючи, де нейромережа проводить кордони, що дозволяють їй вирішити є щось об’єктом чи ні, розробники змогли створити дизайн,
який вводить в оману систему класифікації і розмітки ШІ.
Розглядаючи конкретно дві нейронні мережі розпізнавання об’єктів, які зазвичай використовуються в навчальних цілях – YOLOv2 і Faster R-CNN – команда змогла ідентифікувати області тіла, де додавання піксельних шумів може збити з пантелику ШІ і, по суті, зробити користувача невидимим. Для першої мережі показник невпізнаваності збільшився з 27% до 63%, а для другої – з 11% до 52%.
Разом з тим, дослідникам довелося добряче попрацювати над уникненням розпізнавання в динаміці. Тобто, коли це відбувається на відеозаписі, а не на статичній фотографії. Зазвичай, це набагато складніше. Крім того, тканина футболки при ходьбі береться складками, і це теж слід було взяти до уваги. Розробники застосували метод, який назвали «трансформером». Спочатку вони виміряли характер руху футболки, а потім завдали дизайн принта.
В цілому, експериммент можна вважати вдалим. Однак, придбати таку футболку ви не зможете. Робота дослідницьких команд, навпаки, направлена на покращення систем розпізнавання.
