Технології

Механізм екстреної зупинки. Гендиректор Microsoft закликав створити аварійне вимкнення для моделей ШІ

12 жов•NV

Гендиректор Microsoft Сатья Наделла заявив про необхідність посилити контроль над системами штучного інтелекту, зокрема передбачити можливість призупиняти або вимикати модель під час виконання завдання.

У дописі в соцмережі X 10 жовтня Наделла закликав переоцінити архітектуру довіри до ШІ.

На його думку, не можна сприймати надрозумний штучний інтелект як систему закритих моделей, рекомендації, відповіді та дії яких можна лише приймати або відхиляти.

Наделла запропонував відокремити модель від системи, яка керує її роботою, а також винести механізми контролю та захисту за межі самої моделі. Він також наголосив, що кожна важлива дія ШІ має документуватися за допомогою захищених від підробки доказів, зрозумілих людині.

Окремо керівник Microsoft закликав забезпечити уповноваженим людям можливість призупинити або повністю вимкнути модель безпосередньо під час виконання завдання.

«Ми повинні виходити з припущення, що модель скомпрометована, і обмежувати її можливості від самого початку», — написав Наделла, порівнявши такий підхід з аварійним гальмом.

Заява пролунала на тлі повідомлень провідних компаній у сфері ШІ про випадки, коли вони, схоже, втрачали контроль над своїми моделями. Раніше генеральний директор Anthropic Даріо Амодей також представив план обережнішого розвитку штучного інтелекту.

Читайте також:

Дія

Читайте ще