Anthropic виявила п’ять випадків, коли професійні науковці використовували Claude для роботи, яка потенційно могла допомогти у розробці біологічної зброї. Компанія заблокувала їхні акаунти, хоча доказів того, що користувачі справді планували створити біозброю, немає.
Про це пише CBS News.
У Anthropic назвали зловживання штучним інтелектом у біологічній сфері одним із найсерйозніших ризиків сучасних моделей. Компанія описала п’ять випадків, коли можливості Claude використовували для досліджень подвійного призначення.
Йдеться про роботу професійних науковців, імена яких компанія вирішила не розкривати. Водночас Anthropic наголосила, що не може стверджувати, що ці люди мали намір завдати шкоди.
Після виявлення підозрілої активності компанія заблокувала відповідні облікові записи. Результати розслідувань також використали для посилення захисних механізмів і контролю в новіших версіях Claude.
У Anthropic пояснили, що одна й та сама біологічна інформація може мати як корисне, так і небезпечне застосування. Дані, які теоретично можуть допомогти у створенні біологічної зброї,
одночасно можуть використовуватися для розробки вакцин або нових методів лікування.
Компанія також застерегла, що описані випадки лише демонструють можливості сучасних моделей ШІ. Вони не доводять, що Claude вже використовували для реального створення біологічної зброї.
Новіші моделі Anthropic мають жорсткіші обмеження для частини запитів, пов’язаних із біологічними дослідженнями подвійного призначення. Компанія намагається автоматично виявляти та блокувати активність, яка може становити небезпеку.
У тому ж звіті Anthropic описала й інші випадки зловживання Claude. ШІ використовували для пропаганди, масового стеження, шахрайства та роботи, пов’язаної зі звичайними озброєннями.
Зокрема, компанія виявила три акаунти, пов’язані з іранськими державними структурами. Через Claude створювали матеріали для інформаційних кампаній, маскували їх під незалежні новини та поширювали в X, Instagram і TikTok.
Один із таких користувачів також застосовував ШІ для підготовки рекомендацій щодо вибору цілей серед американських військово-морських сил у регіоні. Той самий акаунт використовував Claude під час розробки програмного забезпечення для системи масового стеження.
Anthropic також зафіксувала використання Claude для стеження у Китаї та Західній Африці. У Китаї три акаунти, пов’язані з муніципальними службами безпеки, застосовували модель для збору інформації та створення профілів активістів і організацій за кордоном.
