Шість великих банків заявили, що покупки через ШІ-агентів можуть збільшити ризики шахрайства, витоку даних і помилкових транзакцій. Фінустанови закликають створити спільні правила для таких сервісів.
Про це пише видання Gizmodo.
Шість міжнародних банків, серед яких Bank of America і Capital One, опублікували звіт про ризики так званої агентної торгівлі. Йдеться про використання ШІ-агентів, які можуть самостійно шукати товари, обирати їх і здійснювати покупки замість користувача.
Банки зазначають, що зі збільшенням самостійності таких систем зростають ризики для прозорості, безпеки, приватності, вибору товарів і сумісності різних платформ.
Одна з головних проблем полягає в тому, що користувач може не розуміти, чому саме ШІ обрав певний товар або спосіб оплати. Агент може помилитися, витратити більше грошей, ніж планувалося, або стати інструментом для шахрайства.
У звіті також зазначається, що ШІ-агенти потенційно можуть віддавати перевагу певним товарам чи платіжним сервісам через комісії або нижчу вартість обробки запитів, а не через користь для покупця.
Окреме занепокоєння банків пов’язане з витоками даних.
Такі системи можуть отримувати доступ до платіжної інформації, облікових записів та інших конфіденційних даних покупців і продавців. У разі злому зловмисники можуть використати надані агенту дозволи.
Прикладом стала вразливість у ШІ-асистенті Meta Muse, яку компанія нещодавно виявила та виправила. За певних умов вона могла дозволити зловмиснику перехопити контроль над асистентом і скористатися дозволами, які надав йому користувач.
Водночас банки не відкидають використання ШІ для покупок. У звіті йдеться, що агентна торгівля може стати одним зі звичних способів здійснення покупок, але для цього потрібні чіткі стандарти, правила та механізми захисту споживачів.
Банківська група визначила п’ять ключових принципів для розвитку цієї технології: прозорість, безпека, захист приватності та даних, можливість вибору і сумісність різних систем.
Наразі учасники консорціуму готують новий документ, у якому мають детальніше описати, як застосовувати ці принципи на практиці.
Читайте також:
