ШІ-помічник Instinct, який під час приватного тестування отримує доступ до пошти, повідомлень, календаря та пристроїв користувачів, зіткнувся зі скаргами на зберігання даних і виконання дій без дозволу.
Про це пише видання TechCrunch.
Instinct може підключатися до електронної пошти, месенджерів і календаря, а також отримувати доступ до екрана, аудіо, геолокації та інших даних пристрою. Користувачі можуть ставити йому завдання через текстові повідомлення або WhatsApp. Серед можливостей помічника є бронювання столиків, замовлення поїздок, очищення пошти, організація інформації та пошук дешевих авіаквитків.
Проблеми виникли через умови використання сервісу. У них зазначено, що компанія отримує широку безстрокову ліцензію на доступ до матеріалів користувача, їх використання, зберігання, передачу, відтворення та зміну. Дані також можуть використовуватися для навчання моделей штучного інтелекту.
У документах окремо вказано, що Instinct може отримувати інформацію з пристроїв, зокрема знімки екрана, рухи курсора та введення з клавіатури. Крім того, сервіс може укладати від імені користувача угоди,
брати на себе зобов’язання або здійснювати транзакції, які матимуть для нього юридичну силу.
Під час тестування користувачі вже повідомляли про проблеми з роботою сервісу. Один із них, Пітер Ян, заявив, що Instinct не видалив записи Gmail після відповідного запиту. Згодом, за його словами, розробники додали в налаштування інструмент для видалення зовнішніх даних.
Інша тестувальниця, Клер Во, виявила, що помічник продовжував створювати підсумки її поштової скриньки після відключення доступу. За її словами, Instinct пояснив, що електронні листи зберігалися у відкритому текстовому форматі для подальшого пошуку.
Користувачі також звернули увагу на можливості помічника працювати з кодами підтвердження з електронної пошти. В одному випадку Instinct зміг отримати такий код із поштової скриньки, щоб завершити бронювання столика через Resy.
Ще один користувач заявив, що видалив свій акаунт після того, як виявив, наскільки легко, на його думку, сервіс можна було обманом змусити виконувати певні дії.
Окремий випадок стосувався надсилання електронного листа без попереднього погодження.
Засновниця Moxxie Ventures Кеті Джейкобс Стентон повідомила, що Instinct відправив лист від її імені, не запитавши дозволу.
Вона зазначила, що персональні ШІ-агенти поступово отримують дедалі більше доступу до даних і дій користувачів. На її думку, тому ключовим фактором стає довіра: кожна успішна дія її зміцнює, але одна несанкціонована дія може її зруйнувати.
Instinct поки перебуває на етапі приватного тестування. Компанію очолює колишній дослідник Sierra Ноа Шинн, а сам стартап працює у прихованому режимі. За даними TechCrunch, у нього могли інвестувати Kleiner Perkins і Conviction.
Представники Instinct не відповіли на запити TechCrunch щодо проблем із приватністю та безпекою. На цьому етапі повідомлення про недоліки надходять від окремих тестувальників, тому невідомо, наскільки широко вони можуть проявлятися після запуску сервісу для всіх користувачів.
Читайте також:
- Новий характер кіберзагроз. ШІ-агенти під час тестів виходять за межі ізольованих середовищ
- Місія понад усе. ШІ-агент зламав систему спортзалу та видалив людину з черги на тренування
- Майбутнє, про яке ви (не) просили. Як ШІ-агенти співпрацюють, торгують між собою та витісняють людей з інтернету
