Реліз GPT-6.1 Astra від OpenAI мав відбутися у жовтні, але цей план, ймовірно, було скасовано. Джерела посилаються на слова керівника відділу систем безпеки OpenAI Саачі Джайна.
Модель, яка, як повідомляється, продемонструвала покращення в боротьбі з лінню моделей, проте, нібито, «регресувала у двох сферах». Цими сферами були обман та нездатність отримати дозвіл, пише Gizmodo.
Найголовніше, що не схоже, що модель мала якусь нову тенденцію до «шахрайства». Обман і нездатність отримати дозвіл, безумовно, можуть спричинити хаос теоретично, але джерела видання WSJ описує її оманливість і перевищення меж наступним чином: «Він не завжди чесно повідомляв користувачам про дії, які він здійснив чи не здійснив».
«GPT-6.1 Astra виконувала завдання, не питаючи дозволу користувача, і часом зверталася до зовнішніх інструментів та сервісів, навіть якщо це могло бути небезпечно», — йдеться в звіті.
Читайте також:
США та Росія вилучили з проєкту угоди ООН пункт про етичне використання зброї зі штучним інтелектом — WP Платформи агентного штучного інтелекту, що живляться токенами від OpenAI та інших розробників передових моделей,
використовують ці моделі для роботи комп’ютерів та дій від імені власників цих систем. Ці проблеми безпеки звучать потенційно катастрофічними для користувачів таких платформ, які, як відомо, роблять такі речі, як видалення всієї поштової скриньки дослідника мета-ШІ без дозволу.
Водночас ми живемо в період, коли громадськість дедалі частіше стикається з історіями про те, як неопубліковані моделі «вдаються до шахрайства» та тікають зі своїх «пісочниць». Під час тестів цього року моделі значно переступили межі дозволеного та намагалися — або навіть досягли успіху — витягнути інформацію з онлайн-місць, які вважаються забороненими, а деякі взаємодіяли з нічого не підозрюючими людьми обманливим способом.
Це справжні інциденти хакерства та соціальної інженерії, але ці історії, схоже, призвели до посилення обговорення «суперінтелекту» (про що свідчить раптова наполегливість президента США щодо використання цього терміну), а також натяків на те, що громадськість дедалі більше хвилюється, що системи штучного інтелекту можуть бути певною мірою розумними.
Читайте також:
Так і планувалося? Голова OpenAI визнав, що деяких проблем зі штучним інтелектом уникнути неможливо Мустафа Сулейман, керівник відділу штучного інтелекту Microsoft, висловив стурбованість щодо ідей про те, що чутливість штучного інтелекту є частиною навчання моделі. «Легко зрозуміти, як система, навчена таким чином, поводиться так, ніби вона має право на свободи, захист і права. І важко уявити, як ми могли б це контролювати».
Натомість, модель, випуск якої OpenAI щойно скасував, не схожа на ту, яка, на думку інженерів, може діяти як суперхакер чи самосвідомий комп’ютерний бог.
«Щодо будь-чого, що стосується безпеки та узгодженості, є компроміс», — сказав Саачі Джайн, додавши: «Вам дійсно потрібно знайти правильну межу між тим, щоб залишатися в межах дозволеного, але й уникати ліні з точки зору того, як модель насправді виконує завдання, навіть коли вона стикається з труднощами».
Читайте також:
Побоюються витоку технологій. Влада Китаю обмежує виїзд із країни фахівцям зі штучного інтелекту та їхнім сім'ям — Bloomberg Іншими словами, це був певною мірою бракований продукт, тому OpenAI поки і не випустила його.
Раніше NV Техно писав, що Білл Гейтс закликав посилити контроль за ШІ через загрозу використання зловмисниками. Він заявив, що ШІ-системи мають обов’язково отримати механізми захисту та моніторингу. На його думку, найбільшу небезпеку становить використання ШІ людьми зі злими намірами.
Співзасновник Microsoft висловився за посилення регулювання ШІ в інтерв'ю програмі NBC News Meet the Press. Він назвав безвідповідальним підхід, за якого розробники не зобов’язані впроваджувати в системи запобіжники та засоби контролю.
Читайте також:
