Джерело фото: ТСН
Про це йдеться в розслідуванні видання 404 Media.
Ризики для приватностіГоловна мета команд із перевірки промптів — підвищити якість відповідей чат-бота, критикуючи та оцінюючи згенеровані репліки. Як свідчать внутрішні документи OpenAI, які опинилися в розпорядженні 404 Media, підрядники навчають модель не антропоморфізувати себе та контролюють рівень її догідливості. Надмірна догідливість моделі 4o вже створила серйозні проблеми для розробників, а в деяких судових позовах її навіть пов'язують із випадками самогубств.
Для багатьох користувачів ця практика стає неприємним сюрпризом і створює серйозні ризики витоку приватної інформації. Люди часто сприймають ChatGPT як цифрового друга, професійного асистента або навіть психотерапевта, ділячись із ним інтимними подробицями.
Хоча підрядники не бачать імен користувачів, а спеціальний алгоритм Privacy Filter намагається вилучати персональні дані до передачі тексту людям, у самій компанії визнають: автоматична система нерідко припускається помилок і пропускає чутливі деталі, особливо в коротких повідомленнях або складних контекстах.
Як влаштований процес перевірки Журналісти 404 Media розкрили конкретні деталі того, як саме працюють рецензенти. У спеціальній панелі вони обирають завдання, читають реальний запит, формулюють короткий підсумок намірів користувача, а потім оцінюють чотири варіанти відповідей ChatGPT за 7-бальною шкалою, критикуючи штучний стиль або недоречні емодзі.
За таку рутинну роботу підрядникам у Північній Америці платять понад 50 доларів на годину, а наймають їх через сторонні рекрутингові та AI-платформи на кшталт Crossing Hurdles та Mercor.
Конфіденційність за замовчуванням Налаштування, яке дозволяє використовувати розмови для навчання моделей OpenAI, за замовчуванням увімкнене для всіх безплатних користувачів, а також для передплатників тарифів Plus і Pro. Щоб захистити свої дані від перегляду людьми, користувачі мусять самостійно шукати відповідний пункт у налаштуваннях приватності та вимикати його.
Для корпоративних та освітніх акаунтів ця функція вимкнена початково, проте для решти аудиторії відмова не має зворотної сили й не поширюється на вже відправлені повідомлення.
Залучення людей для оцінювання реальних діалогів не є унікальною практикою лише для OpenAI. Подібні підходи для вдосконалення власних великих мовних моделей застосовують й інші технологічні гіганти, зокрема Google у сервісі Gemini та компанія Anthropic для чат-бота Claude.
Фахівці з кібербезпеки наголошують, що сучасні інтерфейси чат-ботів штучно створюють хибне відчуття інтимності та повної конфіденційності спілкування віч-на-віч, хоча насправді з іншого боку екрана за бесідою можуть спостерігати наймані працівники.
