Компанія DoorDash заблокувала обліковий запис водія служби доставки в Остіні, штат Техас. Причиною стало використання зображень, створених штучним інтелектом, як доказу виконання замовлення, яке фактично не було передано клієнту. Про це повідомляє SlashGear.
Про інцидент стало відомо після повідомлення користувача платформи X під ніком @ByrneHobart. Клієнт зазначив, що кур’єр прийняв замовлення, миттєво позначив його як виконане та завантажив згенероване зображення як підтвердження. Подальше обговорення в мережі виявило, що цей водій вже вдавався до подібних маніпуляцій у цьому районі.
Технічні аспекти шахрайстваЗастосунок DoorDash вимагає від кур’єрів робити фотографію місця доставки в реальному часі після завершення замовлення. Експерти припускають, що для обходу цього захисту зловмисник використовував модифіковане програмне забезпечення або пристрій зі знятими обмеженнями (jailbreak). Це дозволило завантажити стороннє зображення замість знімка з камери та підробити дані геолокації. Ймовірно, ШІ-зображення було згенеровано на основі архівних фотографій з попередніх доставок за тією ж адресою.
Представники DoorDash підтвердили виданню TechCrunch факт розслідування та блокування водія. Клієнту було надано компенсацію. У компанії наголосили на політиці нульової толерантності до шахрайства та використанні комплексу захисних заходів для виявлення подібних порушень.
Читайте також:
Запис DoorDash заблокував кур’єра за використання згенерованих ШІ фотографій для імітації доставки спершу з'явиться на ProstoMob.