Meta під час тестування функції телефонних дзвінків у ШІ-платформі Muse залучала людей-операторів. Один із працівників компанії заявив, що під час дзвінка оператор зробив расистське зауваження.
Про це пише видання Gizmodo.
Платформа Muse запустилася 8 вересня і вже привернула значну увагу користувачів. Окремо Meta тестувала функцію, яка дозволяє ШІ телефонувати від імені людини, наприклад, щоб записатися на стрижку, дізнатися про наявність товару або отримати ціну на послугу.
Як повідомляє Reuters, у деяких випадках до таких дзвінків залучали людей. Функція під назвою «людський консьєрж» передбачала, що оператор міг перехопити розмову, якщо ШІ не справлявся із завданням.
Необхідність такого підходу, ймовірно, була пов’язана з тим, що деякі компанії відмовлялися спілкуватися з ботом. За даними Reuters, один із тестувальників розповів, що страхова компанія кілька разів переривала дзвінок після того, як Muse повідомляла, що не є людиною.
Водночас працівники Meta висловлювали побоювання щодо конфіденційності. Людина-оператор під час такого дзвінка потенційно могла отримати доступ до чутливої інформації користувача.
Окремо один із працівників Meta, який тестував функцію, переглянув розшифровку телефонної розмови та заявив, що оператор зробив расистське зауваження.
Після скарги віцепрезидент Meta Superintelligence Labs вибачився перед працівником. За даними Reuters, представник компанії повідомив, що Meta припинила співпрацю з цим оператором і відмовилася від тестування функції в такому форматі.
У компанії також заявили, що участь людей під час тестів могла підвищити успішність телефонних дзвінків до понад 90%, тоді як показники дзвінків, які повністю здійснював ШІ, були нижчими.
Водночас не до кінця зрозуміло, чи Meta повністю припинила телефонні дзвінки через Muse, чи лише прибрала з них сторонніх операторів.
Представник Meta Дейв Арнольд заявив Reuters, що внутрішнє тестування потрібне для виявлення проблем із безпекою та конфіденційністю. За його словами, компанія продовжує працювати з бізнесами над удосконаленням функції та запустить її для широкого використання лише після відповідних перевірок і з необхідними повідомленнями для користувачів.
Читайте також:
