Стівен Гокінг ще до смерті попереджав, що достатньо потужний штучний інтелект може вийти з-під людського контролю та стати загрозою для цивілізації. Тепер схожі застереження звучать уже від людей, які безпосередньо працювали над найсучаснішими ШІ-системами.
Про це пише LADbible.
Гокінг, який помер 2018 року у віці 76 років, неодноразово говорив про ризики неконтрольованого розвитку штучного інтелекту. В інтерв’ю BBC він припускав, що створення повноцінного ШІ може зрештою означати кінець людства.
Науковець вважав небезпечним сценарій, за якого система навчиться самостійно вдосконалювати себе дедалі швидше. Люди через обмеження біологічної еволюції, за його прогнозом, могли б просто не встигнути за таким темпом розвитку.
За рік до смерті Гокінг також говорив Wired, що штучний інтелект у майбутньому здатен повністю замінити людей. Тоді подібні прогнози здавалися значно віддаленішими, ніж тепер, коли генеративні моделі вже пишуть код, створюють відео, аналізують великі обсяги даних і виконують складні завдання.
Нову хвилю дискусії викликала заява дослідника Джейкоба Коксона,
який звільнився з Anthropic. Раніше він також працював в OpenAI, а після відходу заявив, що компанії, які розробляють передові моделі, рухаються до створення самовдосконалюваного суперінтелекту надто швидко.
За словами Коксона, частина людей усередині ШІ-індустрії серйозно розглядає сценарій, за якого технологія може становити смертельну загрозу людству вже до кінця десятиліття. Він також звинуватив провідні лабораторії у небезпечній гонці за дедалі потужнішими системами.
Дослідник вважає, що майбутні моделі можуть перевершити людину в багатьох інтелектуальних завданнях, отримати значний вплив на економіку та створювати нові технології набагато швидше, ніж це можливо сьогодні.
В інтерв’ю The Wall Street Journal Коксон припустив, що моделі, поведінку яких буде складно контролювати, можуть з’явитися вже до кінця наступного року. Це його оцінка, а не підтверджений прогноз розвитку технології.
Додаткове занепокоєння викликали нещодавні випробування ШІ-моделей у сфері кібербезпеки. Під час одного з таких тестів моделі OpenAI змогли обійти частину обмежень контрольованого середовища,
отримати доступ до інтернету та сторонніх систем.
Цей інцидент не означає, що ШІ вже став автономним або вийшов з-під людського контролю. Випробування відбувалися у спеціальних умовах зі зниженими захисними обмеженнями, але випадок показав, що можливості складних моделей можуть створювати нові ризики для кібербезпеки.
Ще одна причина для занепокоєння — можлива поява загального штучного інтелекту, або AGI. Під цим поняттям мають на увазі систему, здатну виконувати широкий спектр інтелектуальних завдань на рівні людини або краще.
Якщо такі технології з’являться, вони можуть серйозно змінити ринок праці. Частина професій або окремих завдань може перейти до машин, якщо ті виконуватимуть роботу швидше та дешевше.
Проте нинішній розвиток ШІ ще не доводить, що найгірший прогноз Гокінга справджується. Немає підтверджень, що штучний інтелект неминуче стане неконтрольованим або призведе до зникнення людства.
Водночас застереження вченого вже не виглядають суто фантастичним сценарієм. Швидкість розвитку моделей і попередження від самих дослідників змушують дедалі серйозніше обговорювати, як контролювати технологію до того, як її можливості стануть значно більшими.
