OpenAI повідомляє, що майбутнє оновлення ChatGPT додасть штучному інтелекту індивідуальнності, але водночас його відповіді стануть більш суперечливими.
Навіщо
В блозі компанії повідомили, що вони прагнуть, щоб штучний інтелект приносив користь всьому людству. Для цього розробники планують покращити поведінку ChatGPT за допомогою в тому числі і фідбеку від користувачів.
За словами розробників, процес програмування нейромережі не схожий на традиційний в цьому сенсі процес, а скоріше нагадує «дресирування собаки».
Спочатку попереднє навчання
На цьому етапі нейронці «згодовують» масиви даних, на основі яких модель вивчає граматику, багато фактів про світ і здобуває деякі здібності міркувати, а також деякі упередження, присутні в цих мільярдах речень.
Тонке налаштування
Потім, за допомогою рецензентів та наданих їм вказівок, розробники тренують модеть на більш вузький набір даних. Нейромережа отримує установки на кшалт «не виконувати запити щодо незаконного вмісту» або «уникати займати позицію щодо суперечливих тем».
Взаємодія
Чітких інструкцій не має, рецензентам окреслені певні категорії, на основі яких вони «працюють» з нейромережою. Значною частиною процесу вдосконалення є підтримка надійного зворотного зв’язку з рецензентами.
Усунення упереджень
Вказівка рецензентам чітко зазначають, що вони не повинні віддавати перевагу жодній політичній групі. Упередження, які все ж можуть виникнути в результаті описаного вище процесу, є помилками, а не функціями.
«Ми переконані, що технологічні компанії повинні нести відповідальність за створення політики, яка витримує перевірку», — пишуть розробники.
Оновлення
Для вдосконалення ChatGPT команда розробляє оновлення, щоб користувачі могли легко налаштувати його поведінку.
Це означатиме дозвіл системних виходів, з якими інші люди (включно з нами) можуть категорично не погоджуватися.
Розробники запрошують всіх охочих подати заявку на субсидований доступ до API через доступ для дослідників програми, щоб з їх допомогою колективно налаштувати штучний інтелект.
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
GitHub та OpenAI заблокували доступ для українців до інструменту з написання коду Copilot. Схожа історія вже є з ChatGPT
По темi
GitHub та OpenAI заблокували доступ для українців до інструменту з написання коду Copilot. Схожа історія вже є з ChatGPT
Український письменник попросив ChatGPT назвати 10 українських книжок. Що з цього вийшло
По темi
Український письменник попросив ChatGPT назвати 10 українських книжок. Що з цього вийшло
Після розмови з журналістом, штучний інтелект захотів закохатися та стати людиною
По темi
Після розмови з журналістом, штучний інтелект захотів закохатися та стати людиною
Штучний інтелект керував польотом F-16 протягом 17 годин. Як це було
По темi
Штучний інтелект керував польотом F-16 протягом 17 годин. Як це було
«Щоб змінити хід війни». Українські воїни збирають дрони-камікадзе зі штучним інтелектом вартістю від $1500: відео
По темi
«Щоб змінити хід війни». Українські воїни збирають дрони-камікадзе зі штучним інтелектом вартістю від $1500: відео
Користувачі обдурюють фільтри ChatGPT та змушують його відповідати на токсичні питання. Ось, як це працює
По темi
Користувачі обдурюють фільтри ChatGPT та змушують його відповідати на токсичні питання. Ось, як це працює
