Росія технологічно суттєво відстає від НАТО в площині розвитку ШІ для інформаційної війни. Але компенсувати перевагу Заходу в створенні більш сучасних моделей росія намагається дещо інакше.
LLM Grooming це нова форма інформаційної війни, яку росія активно застосовує з 2024 року. Суть методики полягає в цілеспрямованому «отруєнні» великих мовних моделей, таких як ChatGPT, Gemini, Claude, Grok через ін'єкцію фейкової інформації у відкриті джерела, якими ці моделі користуються для навчання або пошуку фактів.
Ця тактика передбачає створення масштабної мережі сайтів викрита нами мережа Pravda така не одна, але вона доволі поширена.
Всі вони координуються з одного центру через російські або пов’язані з РФ ІТ-компанії, зокрема з Криму. Ці сайти публікують псевдоаналітичні тексти, фейкові новини, інтерв’ю та коментарі «експертів», що просувають прокремлівські меседжі.
LLM Grooming діє не безпосередньо не зламує ШІ, а формує його середовище навчання. ШІ-моделі намагаються генерувати відповіді, спираючись на великі масиви інформації з відкритих джерел. І якщо ці джерела масово заражені дезінформацією, модель починає її повторювати у відповідях, які отримують мільйони користувачів.
Особливо небезпечно те, що така інформація виглядає правдоподібно й часто не викликає підозр. Це перетворює LLM Grooming на зброю впливу: без шуму, без ботів, без гібридних армій лише через спотворення середовища, у якому навчається й функціонує штучний інтелект. Це нова фаза інформаційної війни, де фронт не соцмережі, а самі алгоритми.
У Європі взагалі повільно реагують на блокування мереж дезінформаційних ресурсів. В США також. В підсумку отримають проблему паралельно з розвитком ШІ.
Джерело: КOVALENKO / Telegram
Опубліковано з особистого дозволу автора
