Компанія Anthropic оновила правила використання ШІ-моделі Claude, заборонивши її застосування для втручання у вибори, розробки програмного забезпечення для зброї та стеження. Нові правила також прямо забороняють тривале словесне цькування моделі.
Про це пише видання TechCrunch.
Після оновлення в серпні Claude навчили завершувати розмови, якщо користувачі постійно поводяться шкідливо або образливо. Тепер Anthropic закріпила заборону на таку поведінку у своїй політиці використання.
Компанія пояснила, що це правило стосується лише крайніх випадків, коли користувачі неодноразово жорстоко поводяться з моделлю без очевидної мети. Воно не поширюється на звичайне невдоволення відповідями, критику, похмурі творчі теми, тестування моделі та дослідження.
Окремі положення оновленої політики забороняють використовувати Claude для масштабних обманних кампаній. Зокрема, йдеться про створення фальшивих облікових записів і вигаданих новинних видань.
Також Anthropic заборонила дії, спрямовані на введення виборців в оману або зрив виборів. Ці обмеження об'єднані в розділі «Не підривайте демократичні процеси».
Оновлення відбулося на тлі співпраці Anthropic із відомими релігієзнавцями. У деяких випадках компанія намагалася переконати їх у тому, що Claude може мати свідомість або душу.
Читайте також:
