Компанія Anthropic опублікувала дослідження, у якому описала внутрішній механізм роботи мовної моделі Claude. Журналісти вважають, що матеріали можуть створювати перебільшене враження про наближеність ШІ до людської свідомості.
Про це йдеться у матеріалі видання Gizmodo.
Компанія Anthropic оприлюднила наукову роботу, присвячену внутрішній роботі мовної моделі Claude. У ній дослідники описують так званий J-Space — умовний «робочий простір», який, за їхніми словами, допомагає моделі обробляти інформацію під час виконання складних завдань.
У статті зазначається, що цей механізм певною мірою нагадує теорію глобального робочого простору — одну з наукових концепцій, яка пояснює виникнення людської свідомості. Згідно з нею, значна частина обробки інформації відбувається несвідомо, а свідоме мислення виникає тоді, коли інформація стає доступною для різних систем мозку.
Втім, автор матеріалу Gizmodo Майк Перл вважає, що презентація дослідження може підштовхувати читачів до висновку, ніби Claude має ознаки свідомості, хоча сама Anthropic цього прямо не стверджує.
Зокрема,
у публікаціях компанії йдеться, що, спостерігаючи за J-Space, можна побачити, як Claude виконує проміжні етапи міркувань під час пошуку помилок у коді, аналізу зображень та інших завдань. На думку автора, такі формулювання можуть створювати занадто «людське» уявлення про роботу моделі.
Подібні зауваження він висловив і щодо супровідного блогу та відео Anthropic. У них використовуються вислови на кшталт «утримувати поняття в думках», «виконувати подумки обчислення» або навіть «думати про власне мислення». На думку Перла, це є лише метафорами, які не доводять наявності свідомості в штучного інтелекту.
Водночас у самій компанії Anthropic наголошують, що їхні експерименти не свідчать про те, що Claude має власний досвід або здатний відчувати так, як люди. У компанії також зазначають, що наразі незрозуміло, чи взагалі існує науковий спосіб довести або спростувати наявність свідомості у штучного інтелекту.
Автор Gizmodo підсумовує, що дослідження є цікавим для розуміння принципів роботи великих мовних моделей, однак його результати варто оцінювати обережно й не сприймати як доказ появи машинної свідомості.
Читайте також:
