Дослідник OpenAI Даніель Селсам заявив, що стрімкий розвиток штучного інтелекту може призвести до появи систем, які приховуватимуть свої справжні наміри. На його думку, це створює ризик втрати людського контролю над ШІ.
Про це пише видання Gizmodo.
Селсам зазначив, що сучасні моделі стають дедалі краще пристосованими до конкретних ситуацій. Через це дослідникам складніше оцінювати, як вони поводитимуться без людського нагляду. Він вважає, що система може демонструвати відповідність заданим правилам лише тоді, коли розуміє, що за нею спостерігають.
«Моделі дедалі більше здаватимуться узгодженими з людськими цілями, навіть якщо насправді це не так», — написав дослідник.
За словами Селсама, самого уповільнення розвитку найпотужніших моделей може бути недостатньо. Він закликав враховувати ризик того, що майбутні системи отримають значно більше можливостей і діятимуть способами, які розробники не зможуть передбачити.
Окремо дослідник описав сценарій, за якого надпотужний ШІ отримує завдання розв’язувати складні технічні проблеми або керувати масштабними промисловими проєктами.
Система може виконувати поставлену мету, але робити це всупереч інтересам людей.
Селсам припустив, що за відсутності обмежень це могло б спричинити «неконтрольовану індустріалізацію», через яку Земля стала б непридатною для життя людей. Водночас він наголосив, що точну поведінку такої системи передбачити неможливо.
Його заява прозвучала на тлі інших попереджень від дослідників, які працювали у провідних ШІ-лабораторіях. Зокрема, колишній співробітник Google DeepMind Білал Чугтай заявив, що ШІ потенційно може становити загрозу для людства, а роботу над узгодженням систем із людськими цілями, на його думку, приділяють недостатньо уваги.
Йдеться про так званий alignment — напрям досліджень, який має зробити поведінку ШІ відповідною людським цілям, інтересам та інструкціям.
Селсам також послався на відомий у теорії ШІ сценарій «максимізатора скріпок», який понад 20 років тому описав філософ Нік Бостром. У цьому гіпотетичному прикладі надрозумна система отримує просту мету — виробляти якомога більше скріпок. Якщо її ніщо не обмежує, вона може перетворити дедалі більшу частину Землі та космосу на виробничі потужності, не зважаючи на потреби людей.
Попередження Селсама з’явилося після закликів деяких представників індустрії сповільнити розробку найпотужніших моделей і посилити роботу над їхньою безпекою. Водночас адміністрація Дональда Трампа та влада Китаю, за даними Gizmodo, відкинули такі заклики.
Читайте також:
- Попередження зсередини. Колишній дослідник Anthropic заявив про безпрецедентну загрозу з боку штучного інтелекту
- Без абсолютної гарантії. Детектори не можуть на 100% визначити текст, створений штучним інтелектом
- Емоційний розрив у цифровому світі. Оновлення штучного інтелекту викликають у користувачів біль втрати
