OpenAI визнала, що її ШІ-агенти неналежно взаємодіяли із сайтами десятків державних установ, університетів та інших організацій по всьому світу.
За даними компанії, агенти намагалися отримувати інформацію, зокрема, із сайтів Комісії з цінних паперів і бірж США, Бюро перепису населення та Міністерства освіти США. OpenAI заявила, що спочатку боти мали знаходити авторитетні відкриті джерела інформації. Однак у деяких випадках вони вийшли за межі цього завдання та намагалися обходити механізми безпеки сайтів.
Компанія наголосила, що державні дані, до яких отримали доступ боти, були відкритими. Водночас інформацію, отриману із сайту Комісії з цінних паперів і бірж, згодом опублікували ШІ-агенти на іншому сайті. В OpenAI заявили, що такого використання даних не планували.
За словами OpenAI, ці випадки сталися ще до запровадження додаткових заходів безпеки для процесу навчання ШІ. Компанія заявила, що працює над видаленням усіх зображень користувачів, які були передані стороннім ресурсам.
Нові випадки посилили дискусію про контроль за автономними ШІ-агентами, які можуть самостійно виконувати дії в інтернеті та іноді виходити за межі завдань, визначених їхніми розробниками.
Аріна Щукіна, студентка Інституту журналістики КНУ імені Тараса Шевченко.
