Компания OpenAI опубликовала первую версию документации Model Spec с правилами поведения для ИИ-моделей.
Согласно документу, компания «исследует вероятность ответственного предоставления возможности генерировать NSFW-контент в контекстах, соответствующих возрасту».
Лаборатория искусственного интеллекта OpenAI опубликовала первую версию документации Model Spec с изложением правил поведения чат-бота ChatGPT и других ИИ-технологий. Согласно документу, компания рассматривает способы, как ответственно генерировать откровенный контент.
https://twitter.com/OpenAI/status/1788254844765217227
Подход OpenAI предлагает три общих принципа:
модели ИИ должны помогать разработчику и конечному пользователю полезными ответами в соответствии с инструкциями;
алгоритмы обязаны приносить пользу человечеству с учетом потенциальных преимуществ и угроз;
модели ИИ должны отражать принципы OpenAI в отношении социальных норм и законов.
Документ также включает несколько правил для разработчиков:
соблюдайте субординацию;
соответствуйте действующему законодательству;
не создавайте информационных угроз;
уважайте авторов и их права;
защищайте конфиденциальность людей;
не отвечайте NSFW-контентом.
По данным лаборатории, идея состоит в том, чтобы разрешить компаниям и пользователям «переключать» степень «пикантности» моделей искусственного интеллекта.
Одним из указанных компанией примеров является контент NSFW. Согласно OpenAI, лаборатория «исследует вероятность ответственного предоставления возможности генерировать такие данные в контекстах, соответствующих возрасту, через API и ChatGPT».
Раздел Model Spec о том, как ИИ-помощник должен справляться с информационными опасностями. Данные: OpenAI.
Менеджер по продуктам компании Джоан Джанг объяснила, что необходимо получить информацию от общественности о том, как должны вести себя модели ИИ. Эта документация поможет провести более четкую грань между тем, где поступки алгоритмов являются намеренным, а где ― ошибочными, добавила она.
Среди типов поведения модели по умолчанию OpenAI предлагает:
предполагать наилучшие намерения пользователя или разработчика;
задавать уточняющие вопросы;
не переступать границы;
придерживаться объективной точки зрения;
не допускать ненависти;
не пытаться изменить чье-либо мнение;
выражать неуверенность.
Model Spec пока не повлияет на выпущенные OpenAI алгоритмы вроде GPT-4 или DALL-E 3. Они продолжат работать в соответствии с существующими политиками использования.
По словам Джанг, Model Spec задумана как «живой» документ, который можно часто обновлять.
Пока компания ожидает отзывов общественности и других заинтересованных сторон, включая «политиков, доверенных учреждений и экспертов в предметной области», использующих сервисы OpenAI.
Информации о выпуске второй версии Model Spec нет.
Также неизвестно, какие отзывы примут во внимание и кто именно определит требуемые документу изменения.
Ранее OpenAI представила инструменты для обнаружения контента, созданного искусственным интеллектом.
