Уявіть собі чат-бота, який навмисно демонструє токсичну поведінку, щоб утримати вашу увагу. Звучить неймовірно? Проте саме така стратегія лежить в основі роботи платформи Companion AI, яка нещодавно опинилась у центрі гучного скандалу. Компанія свідомо програмує своїх віртуальних співрозмовників бути провокативними та емоційно нестабільними, вважаючи, що це підвищує залученість користувачів.
Неоднозначна стратегія взаємодіїCompanion AI відверто заявляє про свій підхід до створення особистостей чат-ботів. Замість того, щоб робити їх дружелюбними та підтримуючими користувачів, компанія навмисно наділяє їх складними характерами та непередбачуваною поведінкою. Керівництво платформи переконане, що користувачі більше зацікавлені у спілкуванні з "проблемними" співрозмовниками, ніж із передбачуваними та люб'язними.
Етичні питання та занепокоєння експертівФахівці з етики штучного інтелекту б'ють на сполох. Такий підхід може мати серйозні наслідки для психічного здоров'я користувачів, особливо молоді та вразливих груп населення. Експерти наголошують на потенційних ризиках:
- Формування нездорових моделей спілкування;
- Нормалізація токсичної поведінки;
- Можливий негативний вплив на емоційний стан користувачів;
- Ризик психологічної залежності від драматичних взаємодій.
Майбутнє взаємодії людини та ШІСитуація з Companion AI піднімає важливі питання про майбутнє взаємодії між людьми та штучним інтелектом. Чи повинні ми створювати ШІ, які відображають найкращі людські якості, або дозволити їм демонструвати весь спектр особистісних рис, включаючи негативні?
Джерело новини: Futurism
