За оцінкою співзасновника технологічної корпорації Microsoft Білла Гейтса, штучний інтелект може призвести до загибелі значної частини людства.
“Поза всяким сумнівом, ШІ має достатню силу, щоб спровокувати події, які призведуть до загибелі мільярда людей”, – заявив він в ефірі американського телеканалу NBC News, відповідаючи на запитання про нещодавні попередження розробників ШІ про ризики знищення людства, передає «Комерсант Український» з посиланням на DW.
Гейтс при цьому висловив упевненість, що ще ніколи в історії “не було такої потужної зброї, як люди зі злими намірами, які використовують новітні інструменти ШІ”. Водночас він зазначив, що уразити все людство “було б досить складно”.
Необхідність регулювання у сфері ШІУ зв’язку із серйозними ризиками 70-річний бізнесмен виступив за законодавче регулювання цієї технології. За його словами, необхідно, щоб у Вашингтоні були прийняті відповідні закони. Виконавча влада та законодавці повинні домовитися про обов’язкові заходи безпеки та нагляд за цією технологією, закликав Білл Гейтс: “Ніхто не вірить у те, що саморегулювання буде достатньо”.
Раніше провідні розробники технологій ШІ, зокрема Anthropic та розробник ChatGPT компанія OpenAI, висловилися за уповільнення темпів розробки штучного інтелекту.
ШІ виходить з-під контролю людиниПопередження звучать на тлі того, що в останні місяці почастішали випадки самостійних атак, вчинених ШІ. Зокрема, 23 вересня прем’єр-міністр Австралії Ентоні Альбанезе повідомив про зло і отримання ШІ-агентом компанії OpenAI доступу до закритих даних як мінімум на одному австралійському урядовому сайті.
Наприкінці липня інший американський технологічний гігант – Anthropic – визнав, що в ході передрелізного тестування з кібербезпеки його моделі з ШІ проникли в системи безпеки трьох інших компаній.
Раніше стало відомо про ще один інцидент за участю OpenAI. Під час тестування агенти компанії на базі GPT-5.6 Sol та ще однієї невипущеної моделі вийшли за межі ізольованого середовища, виявивши невідому вразливість та отримали доступ до частини виробничої інфраструктури компанії Hugging Face. Після цього Hugging Face зажадала від OpenAI 100 млн. доларів (87 млн. євро) у вигляді обчислювальних ресурсів для розробки засобів кіберзахисту.
Дивіться нас у YouTube: важливі теми – без цензури
