ligncenter "src =" /wp-content/uploads/2025/02/polnaja-chush-hakery-raskritikovali-tekushee-testirovanie-bezopasnosti-ii-174924.jpg "" Повні дурні ": хакери вимкнено поточне тестування AI " />
Ілюстрація захисту штучного інтелекту. Джерело: Blue Planet Studio
У найбільший у світі хакерський дефін, провідні дослідження в галузі кібербезпеки сказали, що сучасні методи захисту систем штучного інтелекту (AI) є принципово недосконалими та потребують повного перегляду. Що відомо
У першому звіті конференції "Альманах хакерів", підготовленого разом з ініціативою щодо кіберполітики Чиказького університету, ефективність методу "Червоної команди" ставиться під сумнів, коли експерти з безпеки перевіряють ШІ Система вразливості. Sven Cattell, очолюючи AI Village Con, зазначив, що такий підхід не може адекватно захистити від виникнення загроз, оскільки документація для моделей ШІ є фрагментарною, а оцінки, що входять до документації, є неадекватними.
На конференції близько 500 учасників перевірили моделі AI, і навіть початківці успішно знайшли вразливості. Дослідники закликали впровадити структури, подібні до загальних вразливих та експозицій (CVE), що використовуються в традиційній кібербезпеці з 1999 року, щоб стандартизувати методи документування та усунення вразливості ШІ.
Джерело: def con
Повідомлення вперше з’явився на itnet.
