Президентка Signal Мередіт Віттакер попередила, що агенти штучного інтелекту можуть загрожувати конфіденційності користувачів. Про це вона заявила на конференції SXSW в Техасі, повідомляє Techcrunch.Віттакер вважає, що використання ШІ-агентів рівнозначне «поміщенню вашого мозку в банку». Вона впевнена, що нова парадигма обчислень, де штучний інтелект виконує завдання від імені користувачів, має «глибоку проблему» як з конфіденційністю, так і з безпекою.ШІ-агенти продаються як спосіб підвищити цінність життя, бо виконують різні онлайн-завдання для користувача: шукають концерти, бронюють квитки, планують події у календарі і повідомляють друзям, що подію заброньовано.«Тож ми можемо просто помістити свій мозок у банку, тому що ця штука робить це, і нам не потрібно її торкатися, чи не так?»Водночас, пояснює вона, агенту штучного інтелекту для виконання цих завдань знадобиться більше доступу:доступ до веб-браузера; спосіб керування браузером; доступ до даних кредитної картки для оплати квитків; доступ до календаря; доступ до програми обміну повідомленнями для надсилання тексту друзям.
Щоб керувати процесами у користувацькій системі ШІ-агент повинен мати доступи рівня root-дозволів і доступ до кожної з цих баз даних. І, ймовірно, у відкритому вигляді, тому що немає моделі, яка б робила це зашифровано, попередила Віттакер.Потужна ШІ-модель навряд чи буде робити все це на пристрої користувача. Майже напевно інформація надсилається на хмарний сервер, обробляється і надсилається назад. “Отже, існує серйозна проблема з безпекою та конфіденційністю, яка переслідує цей ажіотаж навколо агентів, і це врешті-решт загрожує зламати гематоенцефалічний бар’єр між рівнем додатків і рівнем ОС, об’єднавши всі ці окремі служби [і] заплутавши їхні дані»Якби Signal інтегрувався з агентами ШІ, це підірвало б конфіденційність повідомлень користувачів. Агент має отримати доступ до програми, щоб відправити повідомлення друзям, а також отримати дані, щоб узагальнити ці повідомлення.Так Віттакер прокоментувала дискусію про те, що галузь ШІ побудована на моделі масового збору даних. Парадигма штучного інтелекту «чим більше [даних], тим краще» має потенційні погані наслідки, впевнена Віттакер.Віттакер попередила, що завдяки агентському ШІ людство підриває конфіденційність і безпеку в ім’я «чарівного бота-джина, який подбає про життєві труднощі».
