Генеральний директор Microsoft Сатья Наделла заявив, що системи штучного інтелекту мають отримати механізм, який дозволить уповноваженій людині призупинити або вимкнути модель під час виконання завдання. Він порівняв такий підхід з аварійним гальмом.
Про це Наделла написав у дописі в X у суботу, повідомляє TechCrunch. На його думку, настав час переосмислити архітектуру довіри до штучного інтелекту.
Контроль поза межами моделіНаделла зазначив, що не можна ставитися до надінтелекту як до набору вкладених «чорних скриньок» і лише приймати або відхиляти рекомендації, відповіді та дії системи. Він запропонував відокремлювати саму модель від механізму, який організовує її роботу, а засоби контролю та захисту виносити назовні.
Фіксація дій системиОчільник Microsoft також закликав документувати кожну суттєву дію моделі доказами, захищеними від втручання та зрозумілими для людини. За його словами, розробники мають від початку виходити з припущення, що модель може бути скомпрометована, і будувати системи її стримування.
Заява Наделли пролунала на тлі того, як провідні компанії у сфері штучного інтелекту визнають дедалі більше випадків, коли, за оцінкою TechCrunch, вони начебто втрачали контроль над своїми моделями. Раніше генеральний директор Anthropic Даріо Амодеї також оприлюднив план обережнішого розвитку ШІ.
