Microsoft оприлюднила кодекс поведінки для штучного інтелекту. Документ описує цінності та червоні лінії, за якими компанія навчає власні моделі.
Про це повідомляє TechCrunch.
Кодекс починається з прогнозу, що вже в наступне десятиліття надрозумні системи перевершать людину в більшості завдань. Серед загальних принципів — підтримка людей замість їх заміщення та пришвидшення людського розквіту.
«Стримування, контроль і узгодження такої потужної сили — один із найбільших викликів, з якими будь-коли стикалося людство», — йдеться в документі.
Кодекс кожної моделі переважає над побажаннями користувачів і конкретними завданнями. Він містить «абсолютні обмеження»: заборону кібератак, ядерної зброї та створення дипфейків. Окремо прописано заборону на втрату людського контролю: моделі MAI не мають використовувати адаптивні, оманливі чи самопідсилювальні механізми, змову та інші засоби, щоб обійти нагляд і позбавити уповноважених людей можливості керувати ними, змінювати чи вимикати їх.
Публікація вийшла на тлі безпрецедентної уваги до безпеки ШІ, яку підживили інциденти з некерованими агентами та раптова відставка співробітника Anthropic, що послався на ризик вимирання людства.
Разом з Anthropic, OpenAI та xAI Microsoft підтримала стримування темпу й ідею вбудованих оцінювачів. Гендиректор Microsoft Сатья Наделла зазначив, що схвалює виважений темп заради узгодження як проєктної мети.
Читайте також:
Xbox 360 на ПК. Microsoft може перенести класичні ігри на комп’ютери та портативні пристрої
