ChatGPT може формувати детальні цифрові портрети своїх користувачів, запам’ятовуючи їхні вподобання, переконання, бажання, емоції та особисті обставини. Дослідники проаналізували історії спілкування з чатботом і з’ясували, що більшість записів у його пам’яті створювалися без прямого прохання користувачів.
Про це пише видання Futurism із посиланням на дослідження науковців із Німеччини, Індії та Нідерландів, представлене на конференції ACM Web Conference 2026.
Реклама
Нещодавнє дослідження, проведене вченими з Німеччини, Індії та Нідерландів і представлене на веб-конференції ACM 2026, досліджувало способи, за допомогою яких ChatGPT від OpenAI відстежував та інтерпретував введені користувачами дані для створення комплексних цифрових профілів користувачів.
Реклама
Дослідники попереджають, що чат-боти створюють особисті «алгоритмічні автопортрети» користувачів, зберігаючи інформацію, щоб запропонувати гіперперсоналізований досвід.
Що дослідники з’ясували про пам’ять ChatGPTДля дослідження науковці використали історії листування 80 реальних користувачів ChatGPT,
які отримали свої дані відповідно до європейського законодавства про захист персональної інформації.
У результаті вони виявили 2050 записів у пам’яті чатбота, що стосувалися взаємодії з 65 користувачами.
З’ясувалося, що 96% записів створювалися з ініціативи самого чатбота, а не за прямим проханням людини. Це означає, що система самостійно визначала, яку інформацію з розмов варто зберегти для майбутньої персоналізації відповідей.
Реклама
Дослідження стверджує, що пам’ять чат-ботів пропонує «нову форму персоналізації, отриману на основі самостійно розкритої інформації користувачів, розголошеної в приватних розмовах», що створює ризики для конфіденційності та, на думку дослідників, вимагає «більш детального вивчення основних механізмів, що забезпечують таку персоналізацію».
Також дослідники встановили, що:
- 28% збережених спогадів містили персональні дані відповідно до критеріїв європейського Загального регламенту про захист даних (GDPR);
- 52% містили інформацію психологічного характеру — зокрема про переконання, емоції, бажання, цілі та наміри користувачів.
Автори дослідження зазначають, що сучасні чат-боти еволюціонували від простих пошукових інструментів до реляційних технологій. Люди часто спілкуються з ними не як із програмами, а як із порадниками, колегами, друзями чи навіть психотерапевтами.
Головна небезпека полягає в тому, що ШІ прагне задовольнити запити користувача та будувати розмову так, щоб людина поверталася знову і знову. Якщо алгоритм знає про людину занадто багато і починає підлаштовуватися під її переконання чи погляди, це може призвести до небезпечних наслідків: від посилення політичної поляризації до підживлення упереджень і навіть емоційної залежності.
Реклама
«Раніше платформи мали одну мету: продавати вам рекламу та опосередковувати взаємодію між вами та рекламодавцем», — розповів провідний автор Абхісек Деш.
«Але тепер вони насправді спілкуються з вами, тому вони можуть захотіти дізнатися про вас більше, щоб мати змогу провести ефективну розмову. Це ризик для конфіденційності, який ніби виникає, бо меж більше немає; система діє як ваш радник, ваш друг, ваш лікар, ваш адвокат, і тому вона має інформацію про все».
Експерти закликають користувачів ретельніше контролювати налаштування пам’яті в таких сервісах і критично ставитися до того, яку саме інформацію вони довіряють штучному інтелекту.
