Використання архіву YouTube для навчання мовних моделей штучного інтелекту створює потенційну загрозу конфіденційності особистих відеозаписів, стверджує старший науковий співробітник Ініціативи з цифрової громадської інфраструктури Массачусетського університету в Амгерсті, Райан МакГрейді.
Революція штучного інтелекту потребує даних. OpenAI та Google почали використовувати відеоролики з YouTube для навчання своїх текстових моделей штучного інтелекту. Але що насправді включає в себе архів YouTube?
Команда дослідників цифрових медіа з Массачусетського університету в Амгерсті зібрала та проаналізувала випадкові зразки відеороликів з YouTube для кращого розуміння цього архіву. Вчені опублікували 85-сторінковий документ про це дослідження та створили веб-сайт TubeStats для фахівців та журналістів, які потребують базової інформації про YouTube.
Тепер можна розглянути деякі з найбільш вражаючих результатів, щоб зрозуміти, як ці маловідомі відео можуть впливати на потужні системи штучного інтелекту. Вчені виявили, що багато відеороликів на YouTube призначені для особистого використання або для невеликих груп людей,
і значна частина з них була створена дітьми молодше 13 років.
Вершина айсбергу YouTube
Дослідження полягає в тому, що досвід більшості користувачів контролюється алгоритмами: до 70% відео, які переглядають користувачі, рекомендуються алгоритмами сайту. Рекомендації, як правило, стосуються популярного контенту, такого як трюки відомих особистостей, новинні огляди, пояснювальні відео, відеоблоги про подорожі та огляди ігор. В той же час контент, який не потрапляє у рекомендації, залишається маловідомим.
Деякий контент на YouTube імітує популярних авторів або вписується у стандартні жанри, але більшість відео мають особистий характер: сімейні свята, відео під музику, домашні завдання, фрагменти ігор без контексту та дитячі танці. Невідома сторона YouTube, на більшій частині з 14,8 мільярдів відеороликів, завантажених на платформу, погано досліджена.
Освітлення цього аспекту YouTube та соціальних мереж загалом ускладнене через зростаючу ворожість великих технологічних компаній до дослідників.
Дослідники виявили, що багато відео на YouTube ніколи не були призначені для широкого поширення.
Вони задокументували тисячі коротких особистих відеороликів з низькою кількістю переглядів, але високою активністю (лайки і коментарі), що свідчить про малу, але дуже зацікавлену аудиторію. Очевидно, що такі відео створювалися для обмеженого кола друзів і родини. Це соціальне використання YouTube контрастує з відео, які намагаються максимізувати свою аудиторію, пропонуючи альтернативний погляд на використання платформи як відео-орієнтованої соціальної мережі для малих груп.
Інші відео були призначені для іншої обмеженої, статичної аудиторії: записи віртуальних уроків під час пандемії, засідання шкільних рад і робочі зустрічі. Хоча це не те, що зазвичай вважається соціальним використанням, вони також показують, що їхні автори мають інші очікування щодо аудиторії, порівняно з авторами контенту, який потрапляє у рекомендації користувачів.
Паливо штучного інтелекту
З більш глибоким розумінням, вчені уважно вивчили розслідування The New York Times про те, як OpenAI та Google звертаються до YouTube у пошуках нових джерел даних для навчання своїх великих мовних моделей.
Архів стенограм YouTube є унікальним набором даних для текстових моделей.
Також існують припущення, частково викликані ухильними відповідями технічного директора OpenAI Міры Мураті, що самі відеоролики можуть бути використані для навчання моделей штучного перетворення тексту в відео, таких як Sora від OpenAI.
Стаття в New York Times викликала обурення стосовно умов використання YouTube та авторських прав, які стають центральними у дебатах про штучний інтелект. Проте є й інші проблеми: звідки можна знати, що насправді міститься в архіві з більш ніж 14 мільярдів завантажених відеороликів? Це не зовсім зрозуміло, і, можливо, Google навіть не має повного уявлення про це.
Діти, як творці контенту
Вчені були здивовані виявленням значної кількості відеороликів, на яких присутні діти або які були створені ними. Хоча YouTube вимагає, щоб користувачі були старшими 13 років, ми часто бачили відео з дітьми, які, здається, значно молодші, що танцюють, співають або грають у відеоігри.
"У рамках нашого попереднього дослідження наші програмісти визначили, що майже п'ята частина випадкових відеороликів,
на яких видно обличчя хоча б однієї людини, ймовірно, містить обличчя осіб, які ще не досягли віку 13 років. Ми не включали відео, які явно були зняті з дозволу батьків або опікунів.
Хоча наш поточний обсяг вибірки в 250 осіб є порівняно невеликим, ми працюємо над обробкою значно більшої вибірки, але вже отримані результати підтверджують, що багато відеороликів, завантажених на YouTube, містять контент, створений дітьми", - пише науковий співробітник Ініціативи з цифрової громадської інфраструктури Массачусетського університету в Амгерсті, Райан МакГрейді.
Малі дані, великий вплив
Цікаво припустити, що OpenAI використовує популярні відеоролики або телевізійні програми, завантажені на платформу, для навчання своїх моделей. Проте попередні дослідження показують, що найпопулярніший контент не завжди має найбільший вплив на навчання штучних інтелектуальних моделей. Простий розмова між трьома друзями може мати набагато більшу лінгвістичну цінність для навчання мовної моделі чат-бота, ніж музичне відео з мільйонами переглядів.
На жаль, компанії, що займаються штучним інтелектом,
не роблять прозорими свої навчальні дані. Вони не вказують, які дані включені в навчання штучних інтелектуальних систем. Дослідники часто можуть виявляти проблеми з даними на основі систематичних помилок у результатах цих систем. Однак коли ми недостатньо інформовані про навчальні дані, це може викликати занепокоєння. Наприклад, у звіті Human Rights Watch від 10 червня 2024 року показано, що популярний набір даних для навчання містить багато фотографій впізнаваних дітей.
Турбота про використання користувацького контенту для навчання штучних інтелектуальних моделей часто пов'язана з питаннями інтелектуальної власності. Проте також існують проблеми з конфіденційністю. YouTube є великим архівом, який неможливо повністю переглянути.
Моделі, навчені на професійно створених відеороликах, можуть стати початковим навчальним корпусом для компаній, що займаються штучним інтелектом. Проте без чіткої політики будь-яка компанія, що приймає більше даних, ніж лише популярні відеоролики, ймовірно, буде включати контент, який порушує правила захисту конфіденційності дітей в Інтернеті, встановлені Федеральною торговельною комісією, що забороняє збір даних про дітей до 13 років без попереднього повідомлення.
З огляду на останні ініціативи щодо регулювання штучного інтелекту та пропозиції про всеосяжне законодавство про конфіденційність, існує надія на посилення захисту даних користувачів.
