Американська компанія Anthropic виявила та припинила спроби використати її модель штучного інтелекту для розробки біологічної зброї та кібершпигунства. Це сталося на тлі тривожних застережень експертів про те, що стрімкий розвиток технологій несе екзистенційну загрозу для всього людства.
Про це пише «BBC News Україна» із посиланням на нещодавній аналіз компанії щодо загроз.
Реклама
Anthropic оприлюднила 10 вересня черговий звіт, присвячений загрозам, пов’язаним із використанням штучного інтелекту. У ньому йдеться про те, що модель компанії Claude була задіяна у кібершпигунській кампанії, пов’язаній із Росією. Крім того, технологію використовувала іранська пропагандистська структура.
Реклама
Anthropic про випадки зловживання ШІЗа останні вісім місяців Anthropic зафіксувала широкий спектр випадків зловживання ШІ. Серед них були створення фальшивих застосунків для знайомств, шахрайські схеми із використанням готельних Wi-Fi-мереж, а також системи стеження для виявлення дисидентів.
Окремо компанія заявила про спроби китайських компаній-розробників ШІ відтворити функціональні можливості Claude.
Читайте також
-
Дата публікації 16:58, 07.09.26 Категорія Світ Кількість переглядів 1748 ШІ може становити екзистенційну загрозу для людства: попередження верховного комісара ООН Автор публікації
Світлана Несчетна
За інформацією Anthropic, від грудня 2025 року до серпня 2026 року компанія припинила низку випадків зловмисного використання моделей Claude Haiku, Sonnet та Opus. Водночас жоден із зафіксованих інцидентів не був пов’язаний із моделями Claude Fable або потужнішими моделями класу Mythos, за винятком одного випадку «дистиляції». Йдеться про процес, під час якого менші моделі ШІ навчають за допомогою більших і дорожчих моделей.
Реклама
Claude використовували у розробці біологічної зброїВ Anthropic зазначили, що Claude використовували не тільки для кібератак,
інформаційних операцій, стеження та шахрайства, а й у розробці біологічної зброї. Через це компанії довелося блокувати науковців, які застосовували ШІ у спосіб, що потенційно міг сприяти створенню зброї.
В Anthropic назвали зловживання штучним інтелектом у біологічній сфері «одним із найсерйозніших ризиків для передових моделей ШІ» У компанії наголосили, що за відсутності належних запобіжників це «може мати катастрофічні наслідки».
«Ту саму інформацію, яку можна використати для розробки біологічної зброї, можна також застосувати, наприклад, для створення вакцини або ліків від хвороби», — зазначили в Anthropic.
Керівник відділу аналізу загроз компанії Джейкоб Кляйн у коментарі New York Times описав ситуацію як «надзвичайно складну й неоднозначну».
Реклама
«Це не те, що ви бачите лиходія з коміксів, який заявляє: „Я хочу створити біологічну зброю, щоб убити всіх“, — сказав Кляйн.
Крім того, у звіті Anthropic зафіксували шість випадків використання Claude для створення програмного забезпечення, пов’язаного зі звичайними озброєннями Йдеться, зокрема, про вогнепальну зброю,
ракети, ударні безпілотники, бомби та інші боєприпаси, а також системи наведення й управління для їхнього застосування.
Технології Anthropic залучають кіберзлочинці та хакериУ документі зазначається, що кіберзлочинці та хакерські угруповання, які діють за підтримки урядів, дедалі активніше залучають технології Anthropic для проведення своїх операцій. Серед них компанія згадала угруповання ShinyHunters та лабораторії, що працюють у Китаї.
Також у звіті описується діяльність хакерської групи, яку пов’язують із Росією. За припущенням Anthropic, зловмисники за допомогою ШІ створили систему для автоматичного виявлення блокування шкідливого програмного забезпечення. Вона могла змінювати код доти, допоки засоби кіберзахисту не переставали його розпізнавати.
У каліфорнійській компанії заявили, що використали результати дослідження у своїх внутрішніх процесах, «щоб у майбутньому краще запобігати, виявляти та припиняти подібну діяльність».
Крім того, Anthropic повідомила про передавання отриманої інформації правоохоронним органам і партнерам у технологічній сфері, коли це було необхідно.
Читайте також
-
Дата публікації 21:31, 09.09.26 Категорія Наука та IT Кількість переглядів 1496 Провідні розробники ШІ звільняються з компаній: чого насправді бояться творці нейромереж Автор публікації
Ірина Ігнатова
Загроза ШІ та його безпечний розвитокОкремо 6 вересня головний науковець OpenAI Якуб Пачоцький закликав представників індустрії запровадити «добровільне уповільнення» розробки ШІ. На його думку, це необхідно зробити доти, допоки не будуть створені відповідні механізми безпеки.
«Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту», — заявив Пачоцький.
Він додав, що OpenAI, яка розробила ChatGPT, продовжить роботу над системами безпеки, однак, на думку науковця, необхідні значно масштабніші заходи.
Після цього попередження з’явився відкритий лист до прем’єр-міністра Великої Британії Енді Бернема. Його автори закликали укласти нову міжнародну угоду, яка гарантуватиме безпечний розвиток штучного інтелекту. Крім того, автори документа запропонували урядам спільно визначити положення майбутнього договору, який регулюватиме розробку суперінтелекту.
Читайте також
-
Дата публікації 16:05, 10.09.26 Категорія Наука та IT Кількість переглядів 2528 ШІ може закрити людей у "зоопарках": тривожний прогноз експерта Автор публікації
Ірина Лаб'як
«Коли вчені кажуть вам, що існує ймовірність, навіть просто ймовірність, катастрофічних наслідків для людства, треба бути дурнем, щоб не сказати: пригальмуйте», — заявив він 10 вересня в ефірі BBC Newsnight.
Нагадаємо, засновник корпорації Microsoft Білл Гейтс попередив про глобальні загрозичерез неконтрольований розвиток ШІ: масове безробіття,
нові пандемії внаслідок біотероризму та масштабні кібератаки на критичну інфраструктуру. Для запобігання цим наслідкам він закликає створити регуляторні органи та запровадити податок на роботів і токени ШІ, щоб фінансувати перекваліфікацію людей і соціальний захист.
Читайте також
-
Дата публікації 17:32, 09.09.26 Категорія Наука та IT Кількість переглядів 12k Кінець людства вже близько?: останнє попередження Гокінга почало збуватися Автор публікації
Богдан Скаврон
-
Дата публікації 18:01, 15.08.26 Категорія Світ Кількість переглядів 2525 Підліток використовував ChatGPT для сценаріїв убивства родини: згодом матір і брата знайшли мертвими Автор публікації
Кирило Шостак
-
Дата публікації 10:57, 08.09.26 Категорія Наука та IT Кількість переглядів 470 ШІ допоміг створити препарат, який може сповільнювати старіння: що показали випробування Автор публікації
Кирило Шостак
-
Дата публікації 15:48, 13.08.26 Категорія Наука та IT Кількість переглядів 1397 Чи може штучний інтелект мати свідомість: що кажуть дослідники Автор публікації
Кирило Шостак
