Компанія Anthropic просуває серед американських конгресменів документ, що дозволить забороняти поширення моделей штучного інтелекту з ризиком масових жертв.
Про це повідомляє TechCrunch з посиланням на Politico.
Реліз можна заборонити лише за передбачуваного й неминучого ризику, коли під загрозою життя понад 50 людей або збитки сягають понад $1 млрд (майже 45 млрд грн). Причиною має бути створення чи поширення біологічної зброї, кібератака або вихід моделі з-під контролю розробника.
«Цей законопроєкт відображає пропозиції, викладені в Advanced AI Framework від Anthropic, які ми відстоюємо перед федеральними законодавцями та законодавцями штатів із червня», — заявив Politico речник Anthropic.
Читайте також:
Порушення прав споживачів. У США розслідують інциденти з безпекою ШІ-моделей OpenAI та Anthropic Ризик оцінюватимуть незалежні експерти, зареєстровані в Міністерстві торгівлі США. Платити їм можуть самі ШІ-компанії, якщо оплата не залежить від висновків. Якщо експерти виявлять загрозу, вони мусять за 72 години повідомити міністерство, а воно попросить суддю у Вашингтоні зупинити реліз. Жодна федеральна агенція не зможе зробити це самостійно.
Галузь ШІ нині також турбує агентний хакінг через серію випадків, коли ШІ-програми не слухалися операторів і зламували сайти, з’явилися побоювання щодо захисту моделей. ШІ-лабораторії попереджають про загрозу для цивілізації, але здебільшого опираються обов’язковому державному нагляду й пропонують добровільну систему вбудованих оцінювачів.
Читайте також:
