Майже всі, хто користувався ChatGPT, пробували запитати у алгоритму відомості про себе. Хоча ChatGPT переважно вигадував біографію (особливо для непублічних осіб), у нього є чимало відомостей про цілком реальних людей. OpenAI створив форму запиту на видалення персональних даних, яка дозволяє людям — переважно в Європі, але також у Японії — просити про видалення інформації про них із систем OpenAI. Форма допоможе видалити інформацію з відповідей, які ChatGPT надає користувачам, а не з навчальних даних. У ній потрібно вказати своє ім'я, електронну пошту, країна, в якій ви перебуваєте, а також уточнити чи подаєте ви заяву від себе, чи представляєте чиїсь інтереси і чи є ви публічною особою.Після цього OpenAI попросить докази того, що його система згадує про вас. Він просить вас надати приклади запитів, які призводять до згадки вашого імені. «Щоб мати можливість належним чином розглянути ваші запити, нам потрібні чіткі докази того, що модель володіє інформацією про суб’єкта даних, залежно від підказок», — йдеться у формі. Водночас OpenAI попереджує, що не у всіх випадках зможе видалити дані і при розгляді запитів збалансує «конфіденційність і свободу вираження поглядів».
ChatGPT і GPT-4 генерують свої відповіді, передбачаючи, які слова ймовірно слідуватимуть за іншими після того, як переглянули мільярди прикладів речень. Фактично це Т9 з вашого телефону, але «на стероїдах». Вчені називають такі технології мовними моделями (Language Models), а детальніше як вони працюють у дуже простий спосіб ми розповідали у матеріалі «Як працює ChatGPT: історія у схемах і мемах».Тому, коли у ChatGPT немає відомостей він вигадає відповідь на основі подібних текстів. Натомість OpenAI не розповідає на яких даних навчав свої великі мовні моделі, тому ніхто за межами компанії точно не знає, скільки та яких даних (включно з особистою інформацією людей) він зібрав у процесі.OpenAI каже, що його великі мовні моделі навчаються на трьох джерелах інформації: дані, отримані з Інтернету, дані, які компанія ліцензує в інших, і інформація, яку люди передають їй через чати. «Велика кількість даних в Інтернеті стосується людей, тому наша навчальна інформація випадково включає особисту інформацію», — пояснює OpenAI у дописі, зазначаючи, що намагається зменшити її кількість.
Схоже форма, яку створив OpenAI є наслідком ряду перевірок та низки скандалів із генератором тексту. Органи регулювання даних у всьому світі досліджують як OpenAI збирав дані для навчання, точність відповідей, які він надає про людей, та інші юридичні проблеми щодо генеративного тексту. Європейські регулятори даних об’єднали зусилля, щоб розглянути OpenAI після того, як Італія тимчасово заборонила ChatGPT у країні. Потенційні ризики технології також досліджує Канада. У Європі закони GDPR вимагають від компаній мати законні підстави для обробки особистої інформації і надавати людям доступ до інформації про них, та про те, як використовується їхня інформація. У деяких випадках вони можуть вимагати видалення певних типів даних. OpenAI попереджає, що ChatGPT може надавати неточну інформацію. Наприклад, він підготував фальшиву газетну статтю для The Gardian, а також завдавав шкоди репутації реальних людей. Зокрема звинуватив професора права Джонатана Терлі у сексуальному домаганні, а мер австралійського міста Брайан Гуд, за версією чату, відсидів у в’язниці за хабарництво. Натомість останній навпаки повідомив про схему і збирається тепер подати до суду за наклеп. Водночас не лише люди стурбовані використанням даних. Samsung заборонив своїм співробітникам ChatGPT, частково через острах, що секрети компанії можуть бути розкриті іншим користувачам.
