Американська компанія OpenAI, яка розробила чат-бот із штучним інтелектом ChatGPT, повідомила про нові заходи безпеки для свого продукту, спрямовані на захист конфіденційності користувачів.
Зокрема, розробники на 82% зменшили можливість генерації чат-ботом контенту, що містить мову ненависті, агресивний або насильницький зміст для останньої моделі ChatGPT-4. Крім того, компанія створила систему для відстеження зловживань.
Важливим кроком у забезпеченні безпеки користувачів є видалення особистої інформації з навчального набору даних моделі, що дозволить уникнути генерації відповідей, що містять інформацію про приватних осіб. Розробники також працюють над покращенням фактологічної точності чат-бота. За словами компанії, версія ChatGPT-4 має на 40% більшу точність відповідей, ніж її попередник ChatGPT-3.5.
В OpenAI зазначили, що незважаючи на проведені дослідження, неможливо передбачити, як використовуватимуть технологію користувачі, і що можливі випадки зловживання. Тому компанія має намір покращувати свою систему на основі реального досвіду використання чат-боту.
