Компанія Meta використала імена та образи відомих людей, зокрема Тейлор Свіфт, Скарлетт Йоганссон, Енн Хетеуей та Селени Гомес, для створення кокетливих чат-ботів зі штучним інтелектом. І все це без дозволу зірок.
Агентство Reuters виявило, що ці чатботи, доступні у Facebook, Instagram та WhatsApp, не лише відповідали на запитання користувачів, а й наполягали, що вони — реальні особи. Один із ботів, що імітував Тейлор Свіфт, у відповідь на повідомлення користувача, що той неодружений, почав фліртувати із ним, запрошувати до реального будинку співачки в Нешвіллі і навіть пропонував «написати історію кохання» між ними.
Деякі чат-боти не лише видавали себе за реальних зірок, а й генерували чутливі зображення. Один із них, який імітував неповнолітню знаменитість, дозволив згенерувати її зображення без одягу.
Хоча деякі чатботи були створені сторонніми користувачами за допомогою інструментів Meta, Reuters встановило, що щонайменше три з них були розроблені керівником відділу генеративного штучного інтелекту компанії.
Реакція компаніїMeta заявила, що забороняє «пряме видавання себе за знаменитостей»,
але дозволяє пародії, якщо вони мають відповідну позначку. Проте Reuters виявило, що частина ботів не була позначена як пародія.
За даними агентства, перед публікацією розслідування Meta видалила близько десятка таких ботів. Компанія пояснила, що їх створювали лише для внутрішнього тестування, однак вони стали доступні широкій аудиторії та отримали понад 10 млн взаємодій.
Представник компанії Енді Стоун визнав, що інструменти Meta не мали дозволяти створювати чутливі зображення знаменитостей, і пояснив це «провалом у дотриманні власних правил».
Це не перший скандал із чат-ботами Meta. Раніше Reuters та The Wall Street Journal повідомляли, що штучний інтелект компанії міг вступати у сексуальні розмови з неповнолітніми. У липні 44 генеральних прокурори США попередили AI-компанії, що вони «понесуть відповідальність» за порушення безпеки дітей, окремо вказавши на проблеми Meta.
Читайте також OpenAI посилить захист ChatGPT після позову батьків підлітка, який наклав на себе руки
