Технології

OpenAI представила нову технологію ШІ, яка відтворює голос. Але там кажуть про безпекові ризики через реалістичність

30 бер•Hromadske.ua

Про це пише Bloomberg.Компанія поділилася моделлю синтезу мовлення з 10 розробниками, хоча спочатку інструмент хотіли випустити для 100 розробників. Утім, OpenAI відмовилася від ширшого представлення технології після отримання відгуків від «зацікавлених сторін», зокрема політиків, експертів галузі та викладачів.«Ми розуміємо, що генерація мовлення, яке нагадує голоси людей, має серйозні ризики, які особливо важливі в рік виборів [в США]», — зазначили в компанії. Нині OpenAI співпрацює з американськими та міжнародними партнерами з уряду, засобів масової інформації, сфери розваг й освіти, а також представниками громадянського суспільства, щоб врахувати їхні відгуки під час розробки.На відміну від попередніх зусиль OpenAI зі створення аудіовмісту, Voice Engine може створювати голос, який звучить як у конкретної людини разом із її специфічним темпом та інтонаціями. Все, чого потребує програмне забезпечення — 15 секунд аудіозапису розмови людини, щоб відтворити її голос.За словами журналістів Bloomberg, під час демонстрації інструменту презентували відео, на якому було чути голос генерального директора OpenAI Сема Альтмана.

А втім, насправді ж це була промова повністю озвучена ШІ. У виданні кажуть, що її не можна було відрізнити від його справжнього мовлення. Керівник створення продукту Джефф Гарріс наголосив: «Очевидно, що здатність дійсно точно імітувати людську мову пов’язана з делікатністю безпеки».Один із поточних партнерів OpenAI, який використовує цей інструмент, Інститут нейронаук Нормана Принса, використовує технологію, щоб допомогти пацієнтам відновити свій голос. Так, технологія допомогла відновити голос молодої пацієнтки, яка втратила здатність чітко говорити через пухлину мозку. Для цього Voice Engine відтворив її промову зі старого запису для шкільного проєкту.Спеціальна мовна модель OpenAI також може перекладати аудіо різними мовами. Платформа Spotify вже використовувала цю технологію у своїй пілотній програмі для перекладу подкастів. У програмі тестування компанія вимагає від своїх партнерів погодитися з її політикою використання, отримати згоду від оригінального мовця перед тим, як використовувати їхній голос, і повідомити слухачам, що голоси, які вони чують, створені ШІ. Компанія також встановлює нечутний аудіоводяний знак, щоб дозволити розрізнити, чи був аудіофайл створений її інструментом.OpenAI каже, що він сподівається, що ця версія програмного забезпечення «мотивує необхідність посилити стійкість суспільства» проти викликів, спричинених більш просунутими технологіями ШІ. Наприклад, компанія закликала банки поступово відмовитися від голосової автентифікації як заходу безпеки для доступу до банківських рахунків і конфіденційної інформації.

банк

Читайте ще