Компанія OpenAI представила нову функцію для ChatGPT, яка може сповіщати близьких людей користувача у потенційно небезпечних ситуаціях. Йдеться про інструмент під назвою “довірений контакт”. Про це пише видання Gizmodo.
Функція доступна повнолітнім користувачам і дозволяє заздалегідь обрати людину, якій система зможе надіслати сигнал тривоги. Для цього потрібно вказати її контактні дані та дочекатися підтвердження — запрошення діє протягом семи днів.
Якщо алгоритми визначать, що в переписці з’являються ознаки самопошкодження або суїцидальних намірів, система спочатку попередить самого користувача. Йому запропонують самостійно звернутися до обраного контакту та навіть підкажуть, як розпочати розмову.
Лише після цього ситуацію додатково аналізує команда модераторів. Вони ухвалюють рішення, чи варто надсилати сповіщення. У разі підтвердження загрози повідомлення може бути відправлене через SMS, електронну пошту або застосунок.
Важливо, що самі повідомлення не міститимуть деталей переписки. У компанії наголошують: це зроблено для збереження приватності користувачів.
Розробники зазначають, що функцію створювали разом із фахівцями з психічного здоров’я та організаціями, які займаються профілактикою самогубств. Водночас вона не замінює професійну допомогу — у критичних випадках сервіс і надалі рекомендуватиме звертатися до гарячих ліній або екстрених служб.
Поява нововведення пов’язана з ширшою дискусією про вплив штучного інтелекту на психологічний стан людей. За даними компанії, невеликий відсоток користувачів демонструє ознаки кризових станів або ризикованої поведінки під час взаємодії з ШІ.
Таким чином, “довірений контакт” — це спроба додати ще один рівень підтримки, поєднавши технології з людською допомогою у складних ситуаціях.
Нагадаємо, раніше Економічні новини писали що штучний інтелект навчив машини готувати каву й складати білизну.
