Компанії, які впроваджують генеративний штучний інтелект, стикаються з новими ризиками безпеки, оскільки сучасні AI-інструменти отримують дедалі ширший доступ до корпоративних даних і внутрішніх систем.
Про це в колонці для NV Бізнес пише технічний директор EPAM Україна Олег Цаль-Цалько.
За словами експерта, ринок переходить від звичайних чат-ботів до AI-агентів, здатних виконувати дії від імені користувача — працювати з документами, корпоративними додатками, CRM- і ERP-системами, а також міняти налаштування і запускати процеси всередині компаній.
Читайте також:
Навіщо квітковому магазину ШІ. Як малий бізнес може економити та зростати завдяки ефекту важеля — поради експертів Однак розширення можливостей AI одночасно збільшує потенційні загрози для бізнесу.
Серед ключових ризиків експерт називає надмірні права доступу, витік конфіденційної інформації, помилки під час автоматичного виконання операцій і недостатній контроль за діями AI-агентів.
У зв’язку з цим компаніям рекомендують обмежувати повноваження AI-систем за принципом мінімального доступу, запускати їх в ізольованому середовищі та впроваджувати механізми аудиту дій штучного інтелекту.
Для критично важливих операцій, на думку автора, необхідно зберігати обов’язкову участь людини в ухваленні рішень.
Як наголошується в колонці, впровадження AI без продуманої системи управління ризиками може створити для бізнесу нові вразливості замість очікуваного зростання ефективності.
Раніше повідомлялося, що майже всі CEO готуються до скорочень через ШІ
