Американський сенатор Берні Сандерс закликав тимчасово призупинити розробку передових систем штучного інтелекту та заборонити створення суперінтелекту, здатного перевершити людські можливості. На його думку, рішення про майбутнє цієї технології не можна залишати лише в руках технологічних мільярдерів.
Про це повідомляє The Atlantic.
Сандерс вважає, що стрімкий розвиток ШІ порушує фундаментальне питання про майбутнє людства: чи залишатимуться люди домінантним видом на планеті, чи поступляться місцем створеному ними цифровому інтелекту.
Сенатор звернув увагу на висловлювання представників технологічної індустрії, які розмірковують про можливе співіснування людей із надрозумними системами або їхнє об'єднання з машинами.
Зокрема, керівник OpenAI Сем Альтман ще у 2017 році припускав, що людство може стати першим видом, який самостійно створюватиме власних нащадків. Серед можливих сценаріїв він розглядав як поступовий перехід до цифрового інтелекту, так і інтеграцію людей із машинами.
Глава Anthropic Даріо Амодей допускав можливість того, що моделі штучного інтелекту можуть мати свідомість,
хоча це питання залишається відкритим.
Окремо Сандерс згадав Ілона Маска, який підтримує розвиток надінтелекту, та співзасновника Palantir Пітера Тіля. На думку сенатора, подібні погляди свідчать про те, що частина впливових підприємців розглядає технологічну еволюцію як процес, який зрештою може вийти за межі людського контролю.
Сандерс пов’язує ці дискусії з трансгуманізмом — напрямом, прихильники якого вважають, що технології можуть докорінно змінити людські можливості, зокрема завдяки поєднанню біології та машин.
Серед прикладів такого зближення людини й технологій сенатор назвав Neuralink Ілона Маска, яка розробляє мозкові імпланти для взаємодії з комп’ютерами.
Водночас можливості сучасного ШІ швидко розширюються: системи вже можуть працювати з мовою, розв’язувати складні математичні завдання та виконувати дедалі більше інтелектуальних операцій. Однак питання про появу свідомого штучного інтелекту та можливість створення систем, які перевершуватимуть людину в усіх сферах, залишаються предметом дискусій.
Сенатор стверджує, що суспільство має визначати правила розвитку штучного інтелекту,
а не лише підлаштовуватися під рішення технологічних компаній.
У своїй колонці він навів результати опитувань, згідно з якими 91% американців вважають, що розвиток ШІ потребує запобіжників, 74% не довіряють керівникам компаній у цій галузі, а 73% побоюються, що технологія може становити загрозу для виживання людства.
Сандерс також згадав застереження Папи Римського Лева XIV щодо технологічного розвитку, який може призвести до знецінення людської гідності та перетворення людини на набір даних або інструмент у технологічній системі.
Сандерс закликає призупинити розробку передових систем ШІ та заборонити створення штучного надінтелекту, доки не з’являться механізми, здатні гарантувати безпеку таких технологій.
За його словами, разом із конгресменом Грегом Касаром він просуває законодавчу ініціативу, спрямовану на обмеження подібних розробок.
Сенатор наполягає, що рішення про майбутнє штучного інтелекту мають ухвалюватися за участю суспільства та демократичних інституцій. На його переконання, розвиток технологій повинен залишатися під контролем людей, а не служити виключно інтересам невеликої групи найбагатших підприємців.
Раніше президент США Дональд Трамп оголосив про створення урядової структури «Сили суперінтелекту», яка має координувати політику американської адміністрації у сфері штучного інтелекту.
