Компанія OpenAI опублікувала новий звіт про те, як вона відстежує й запобігає небезпечному використанню своїх чат-ботів. У документі описано кілька випадків, коли компанія виявила й припинила шкідливу діяльність, зокрема шахрайство, кібератаки та кампанії, пов’язані з урядами інших країн.
OpenAI зазначає, що з лютого 2024 року виявила й зупинила понад 40 мереж, які порушували правила користування сервісом. У звіті компанія поділилася прикладами з останніх місяців.
Зокрема, було виявлено організовану злочинну мережу з Камбоджі, яка намагалася використовувати штучний інтелект для спрощення своєї діяльності. Також компанія зупинила російську операцію з впливу, де ChatGPT застосовували для створення текстів для відеопромптів, а пов’язані з китайським урядом акаунти просили модель генерувати плани систем моніторингу соцмереж.
Читайте також:
Вчені змусили ChatGPT розв’язати знамениту задачу Платона. Він поводився, як звичайний учень Компанія нагадала, що може використовувати особисті дані користувачів, зокрема запити в чаті, щоб запобігати шахрайству, незаконній діяльності або зловживанням.
Для цього застосовуються як автоматичні системи, так і команда модераторів.
У звіті також пояснюється, що компанія відстежує не окремі повідомлення, а типові схеми дій тих, хто може нести загрозу.
«Щоб ефективно виявляти й зупиняти загрози, не заважаючи звичайним користувачам, ми зосереджуємося на поведінкових шаблонах зловмисників, а не на окремих взаємодіях», — йдеться у звіті.
Читайте також:
DeepSeek: усе, що потрібно знати про китайський ШІ, який обвалив акції Nvidia і загрожує лідерству ChatGPT Окрему увагу приділено ситуаціям, коли користувачі перебувають у кризовому стані. У компанії наголосили, що якщо хтось пише про наміри завдати собі шкоди, ChatGPT не виконує такі запити, а натомість визнає емоційний стан людини та пропонує звернутися по допомогу. Якщо штучний інтелект фіксує потенційну загрозу іншим людям, розмова потрапляє до модераторів, які можуть передати інформацію правоохоронцям у разі реальної небезпеки.
OpenAI також визнала, що якість безпекових механізмів може знижуватися під час довгих розмов, і повідомила, що працює над посиленням захисту.
Звіт з’явився на тлі дедалі більшої уваги до психологічних ризиків, пов’язаних із використанням чат-ботів. Цього року було зафіксовано кілька випадків самопошкоджень, суїцидів і навіть убивств після взаємодії людей зі штучним інтелектом.
Читайте також:
Цінник злетів вдесятеро. OpenAI запустила новий план підписки ChatGPT Pro
