Генеральний директор OpenAI Сем Альтман у суботу застеріг від надання моделям штучного інтелекту релігійного авторитету або передачі їм права приймати рішення замість людини, назвавши таку практику «реальною проблемою безпеки».
«Мені дуже не до вподоби, коли люди намагаються надавати моделям ШІ релігійну силу або передавати їм право приймати рішення замість людини, і я вважаю це реальною проблемою безпеки», — написав Альтман в американській соціальній мережі X.
Його коментарі з’явилися через кілька днів після повідомлень про те, що конкуруюча компанія Anthropic, яка займається ШІ, провела закриті зустрічі з релігійними та філософськими мислителями, присвячені свідомості та моралі ШІ.
Газета «Нью-Йорк Таймс» повідомила, що під час обговорень розглядалося питання про те, чи можуть системи ШІ, такі як Claude, потенційно мати свідомість, і як релігійне мислення може допомогти сформувати їхню поведінку.
Компанія Anthropic також досліджує те, що вона називає «благополуччям моделей», зокрема питання про те, чи можуть передові системи ШІ відчувати переживання, що вимагають морального врахування.
Це питання також викликало занепокоєння в інших керівників технологічних компаній.
Генеральний директор Microsoft AI Мустафа Сулейман виступив із застереженням щодо небезпеки розробки систем штучного інтелекту, які здаються наділеними свідомістю, стверджуючи, що переконання людей у здатності ШІ до суб’єктивного сприйняття може спричинити нові ризики.
Сулейман виступає за підхід «гуманістичного ШІ», в рамках якого системи штучного інтелекту залишаються інструментами, призначеними для служіння людям, а не суб’єктами, наділеними власними інтересами.
