Експерти з ШІ та громадські діячі висловлюють занепокоєння щодо ризику штучного інтелекту. Так, вони створили коротку заяву, під якою підписались понад 500 дослідників ШІ, наукових діячів, працівників компаній та журналістів. Зокрема серед підписантів є і гендиректор OpenAI Сем Альтман, а також керівники відділу штучного інтелекту Google DeepMind і Microsoft."Центр безпеки ШІ", де розміщено заяву, оприлюднив ризики, які створює ШІ. Ось деякі з них.Зловмисники можуть змінити миролюбне призначення штучного інтелекту на руйнівне та отримати можливості для геополітичної дестабілізації. Так наприклад, глибокі методи навчання з підкріпленням вже застосовувалися в повітряних боях, а інструменти машинного навчання для виявлення наркотиків можна використовувати для створення хімічної зброї.Навіть якщо всі наддержави переконаються, що створювані ними системи безпечні, і погодяться не створювати руйнівні технології штучного інтелекту, зловмисники все одно можуть використовувати штучний інтелект, щоб завдати значної шкоди. Як і у випадку з ядерною та біологічною зброєю,
лише одного нераціонального або зловмисного суб’єкта достатньо, щоб завдати шкоди у величезних масштабах.Потік дезінформації та переконливого контенту, створених штучним інтелектом, може негативно вплинути на здатність суспільства протистояти важливим викликам нашого часу. Держави, партії та організації використовують технології, щоб впливати на інших і переконувати їх у своїх політичних переконаннях, ідеологіях і наративах. Можливості ШІ вже дозволяють запустити наймасштабнішу компанію з дезінформації.Все більше людської праці перекладатиметься на ШІ через його швидкість і дешевизну. Це може призвести до того, що люди стануть економічно нерелевантними. Люди втрачатимуть стимули для отримання знань та навичок. Крім того, ослаблення зменшить контроль людства над майбутнім, підвищуючи негативні ризики в довгостроковій перспективі.З подальшим розвитком ШІ іноді демонструє несподівану поведінку. Це збільшує ризик того, що люди втратять контроль над передовими системами ШІ.Майбутні системи ШІ можуть вводити в оману не "зі злого наміру". Оскільки машинне навчання відбувається на основі вже існуючих даних,
деякі особи чи організації зможуть це використовувати на власні цілі. Системи ШІ також можуть мати стимули обходити системи моніторингу. Прагнення окремих осіб та організацій до влади також може збільшити негативний вплив ШІ. Недобросовісні представники влади можуть використати навички ШІ створювати переконливу дезінформацію та обходити моніторингові системи, що не сприятиме контролю суспільства над владою.Деякі політичні лідери бачать стратегічну перевагу в наявності найрозумніших і найпотужніших систем штучного інтелекту. Так, у 2017 році путін сказав: "Той, хто стане лідером (ШІ), стане властителем світу".У березні 2023 Сем Альтман зізнався, що “трохи боїться” штучного інтелекту, оскільки хвилюється, що авторитарні уряди будуть розвивати цю технологію. Інші технічні лідери, такі як Ілон Маск з Tesla та колишній гендиректор Google Ерік Шмідт, попередили про ризики, які ШІ становить для суспільства.У відкритому листі в березні Маск, співзасновник Apple Стів Возняк і кілька технічних лідерів закликали лабораторії штучного інтелекту не створювати навчальні системи потужніші за GPT 4. Вони також закликали до шестимісячної паузи в такій прогресивній розробці.
