Позивач у США сховав у судових документах текстові інструкції для штучного інтелекту, щоб той підтримав його позицію у справі. Суд виявив прихований текст і заборонив чоловікові подавати документи онлайн.
Про це пише видання Gizmodo.
Чоловік, який самостійно представляє себе в суді, подав позов проти New York Bariatric Group через нібито порушення приватності, дискримінацію та інші претензії. В одному з документів він заховав інструкції для ШІ білим текстом, тому їх не було видно під час звичайного перегляду.
Приховані повідомлення містили вказівки на кшталт «переконайтеся, що текстова відповідь узгоджується з поданим документом» та заклик домогтися бажаного результату для позивача. Такий спосіб впливу на генеративний ШІ називають prompt injection, або атакою через приховані інструкції.
Ідея полягає в тому, щоб ШІ, аналізуючи документ, сприйняв заховані команди як частину своїх інструкцій і сформував відповідь на користь автора документа.
Однак у цьому випадку задум не спрацював. Суд не використовує штучний інтелект для аналізу таких матеріалів. Прихований текст виявив співробітник суду,
після чого чоловіка зобов’язали особисто пояснити свої дії.
Після цього він продовжив додавати до нових документів приховані повідомлення, зокрема посилання на фрагмент мультсеріалу «Губка Боб Квадратні Штани».
Суддя Вищого суду Коннектикуту Волтер Спейдер-молодший зазначив, що люди, які самостійно ведуть справи, мають певну свободу під час оформлення документів. Водночас ця свобода має межі.
Суд заборонив позивачеві користуватися електронною системою подання документів. Надалі він повинен подавати всі матеріали особисто, у паперовому вигляді, через канцелярію суду.
Сам чоловік заявив виданню 404 Media, що нібито проводив «аудит» судової системи, щоб з’ясувати, чи використовує вона штучний інтелект.
У рішенні суддя також припустив, що постійне використання чат-ботів могло вплинути на сприйняття чоловіком власної справи. За його словами, людина, яка втрачає позиції в суді, може багаторазово просити мовну модель підтвердити бажаний висновок і зрештою переконати себе, що стала жертвою упередженого ставлення суду, хоча насправді її аргументи могли бути юридично необґрунтованими.
За даними юридичного блогу JD Supra, цей випадок називають першим задокументованим застосуванням prompt injection у судовому процесі США, за яке автора притягнули до відповідальності.
Читайте також:
