Критика підходу Anthropic до навчання ШІГенеральний директор Microsoft AI Мустафа Сулейман опублікував есей, в якому критикує підхід компанії Anthropic до навчання їхньої ШІ-моделі Claude. Він висловив занепокоєння щодо потенційної свідомості моделі та можливості контролю над нею. Сулейман закликав до введення спільних галузевих норм і моніторингу ШІ. Цей есей з'явився після публікації Microsoft проєкту Кодексу поведінки гуманістичного ШІ.
Занепокоєння щодо свідомості ШІУ своєму есеї Сулейман зазначає, що Anthropic формує мислення та поведінку Claude через конституцію моделі, яка містить поняття "відмовник за переконаннями" і визнає моральний статус моделі "глибоко невизначеним". Генеральний директор Microsoft AI підкреслив, що наразі немає доказів свідомості ШІ, зазначивши:
“ШІ не мають свідомості. Вони не відчувають, не переживають і не страждають.” - Мустафа Сулейман Також він висловив побоювання, що керувати системою, яка вважає себе свідомою, може бути неможливо.
У червні цього року Сулейман заявив про намір скоротити витрати Microsoft на моделі Anthropic,
незважаючи на те, що Microsoft є інвестором цієї компанії. У рамках свого підходу, Microsoft AI також оприлюднила проєкт Кодексу поведінки гуманістичного ШІ, який відкидає дослідження добробуту моделей, як це робить Anthropic. За словами Сулеймана:
“Спекуляції щодо внутрішнього життя ШІ не слід закладати в режим навчання, їх треба оцінювати й публікувати окремо для публічного розгляду.” - Мустафа Сулейман Заяви Мустафи Сулеймана підкреслюють зростаючу стурбованість у галузі штучного інтелекту щодо етичних аспектів і контролю над новими технологіями. В умовах, коли компанії активно розвивають AI-системи, такі дискусії про відповідальність і безпеку стають дедалі актуальнішими. Це може призвести до формування нових етичних стандартів та регуляцій, які вплинуть на подальший розвиток ШІ в усьому світі.
У світлі нещодавніх заяв Мустафи Сулеймана, важливо звернути увагу на інші думки експертів у галузі штучного інтелекту. Наприклад, дослідник OpenAI попередив про можливі ризики втрати контролю над потужними AI-системами що підкреслює актуальність дискусій щодо безпеки та етики в розвитку технологій. Ці питання стають дедалі важливішими в умовах швидкого прогресу в цій сфері.
