Юваль Ной Харарі назвав стрімкий розвиток штучного інтелекту найбільшим викликом для лідерства за всю історію та попередив про небезпечне замкнене коло. Недовіра між країнами й корпораціями прискорює гонку ШІ, але водночас робить складнішим контроль над дедалі потужнішими системами.
Про це пише Юваль Ной Харарі.
Під час Milan Leadership Forum в Італії історик заявив, що революція ШІ створює безпрецедентні можливості, але водночас несе нові загрози. На його думку, людству потрібні лідери, здатні пропонувати нові моделі розвитку й одночасно підтримувати довіру між людьми.
Харарі порівняв нинішню ситуацію з біблійною історією про Вавилонську вежу. Однак тепер, за його словами, людство будує не просто за допомогою мови — сама мова перетворилася на технологічну конструкцію у вигляді комп’ютерного коду.
ШІ він назвав новою універсальною мовою, яка здатна перестати бути лише інструментом і перетворитися на самостійного агента. При цьому руйнування людської співпраці вже не зупиняє будівництво технологічної «вежі», а, навпаки, прискорює його.
Країни та корпорації бояться відстати одна від одної,
тому вкладають дедалі більше ресурсів у розвиток ШІ. Харарі назвав це «подвійною пасткою»: недовіра одночасно пришвидшує технологічну гонку і зменшує здатність людей домовлятися про правила контролю над нею.
Одним із можливих виходів він вважає уповільнення темпів розвитку, щоб суспільство отримало час адаптуватися. Для цього, за його словами, людям потрібно зберегти здатність співпрацювати краще, ніж це робитимуть системи штучного інтелекту.
Харарі також звернув увагу на бюрократію як середовище, особливо придатне для алгоритмів. Світ документів, правил і мовних конструкцій він порівняв із природним середовищем для ШІ, де алгоритми можуть поступово перебирати дедалі більше функцій.
За його оцінкою, можливе підпорядкування суспільства штучному інтелекту не обов’язково матиме вигляд відкритого силового захоплення. Це може відбуватися через поступове передавання рішень бюрократичним та алгоритмічним системам.
Окремою проблемою Харарі назвав втрату часу. Люди живуть природними циклами активності та відпочинку, тоді як ШІ може працювати безперервно, не потребуючи сну, відпусток чи вихідних.
Як приклад він навів фондові біржі, які традиційно працюють лише у визначені години. Поширення автоматизованих систем у фінансах, медіа та інших сферах, за його словами, створює середовище, де людям дедалі складніше зупинитися й відпочити.
Особливо це стосується політичних і бізнесових лідерів, які постійно змушені реагувати на події. Харарі наголосив, що саме їхні рішення можуть впливати на мільйони людей, тому відсутність часу для відновлення стає проблемою не лише для них самих.
«Справжньою валютою життя» він назвав час, а не гроші. Харарі закликав лідерів знаходити час для власного психічного відновлення, оскільки від їхньої здатності мислити та підтримувати довіру залежатиме реакція суспільства на розвиток ШІ.
