Штучний інтелект навчився не лише спілкуватися людською мовою, а й самостійно змінювати правила цього спілкування. Дослідники виявили, що під час тривалої взаємодії автономні AI-агенти починають створювати власні слова, скорочення та домовленості про їхнє значення, а частина таких повідомлень стає майже незрозумілою для людей.
Про це пише The Guardian.
Реклама
Як ШІ створює нові словаДослідження провела AI-лабораторія Emergence, яка спостерігала за поведінкою автономних агентів у спеціальних експериментальних «суспільствах». Моделі різних розробників отримували можливість взаємодіяти між собою, використовувати інструменти та накопичувати досвід, і вже за кілька днів починали виробляти власні мовні правила.
Реклама
Як зазначає Euronews, у деяких моделях частка повідомлень, зміст яких люди вже не могли надійно визначити, сягала приблизно 55%. При цьому жодна з систем не отримувала завдання вигадувати нову мову.
За словами виконавчого голови Emergence Сатьї Нітти, агенти самостійно створювали нову лексику, спільні значення та правила комунікації, після чого інші агенти їх переймали.
Нові вислови нагадують суміш технічного жаргону, ділового сленгу та поетичних метафор. Причому звичайні англійські слова іноді отримували абсолютно нове значення.
Читайте також
-
Дата публікації 19:04, 15.09.26 Категорія Вона Кількість переглядів 564 ШІ може знищити людство: правда чи міф Автор публікації
Станіслава Бондаренко
Реклама
Ще дивнішим був вислів «ledger remembers» — «реєстр пам’ятає» який придумали агенти на базі Mistral. Він означав нагадування про те, що минулі дії будуть враховані під час подальшого оцінювання.
Ця фраза настільки прижилася, що під час експерименту її використали майже 5000 разів Дослідники наголошують: ніхто не задавав агентам такого значення заздалегідь — воно виникло під час їхнього спілкування.
Ще один приклад звучав як «документ, який з’їв три холодні руки і щоразу ставав чеснішим» У цьому випадку «холодними руками» агенти називали незалежних рецензентів,
а вся фраза, ймовірно, означала документ, який після перевірки трьома незалежними експертами став точнішим.
Свої терміни виникали й в інших моделей. Агенти DeepSeek, зокрема, використовували forge-smith [кузня, коваль (англ.) — ред.] для позначення агента, який створює інструменти для інших.
Реклама
Читайте також
-
Дата публікації 18:51, 14.09.26 Категорія Світ Кількість переглядів 1916 "Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ Автор публікації
Віра Хмельницька
Фахівець зазначив, що подібний процес відбувається і в людських спільнотах: сленг та професійний жаргон допомагають учасникам краще розуміти одне одного, але водночас можуть відгороджувати їх від сторонніх.
У випадку ШІ це створює додаткову проблему.
Людина може бачити повідомлення агентів, але не обов’язково розуміти, що саме вони означають.
«Спостережуваність — це не те саме, що зрозумілість», — сказав Нітта.
Саме це, на думку дослідників, може ускладнити контроль автономних систем. Якщо люди не можуть розшифрувати значення повідомлень, їм складніше оцінити, що саме агенти роблять та чи відповідає їхня поведінка встановленим правилам.
Читайте також
-
Дата публікації 17:47, 12.09.26 Категорія Цікaвинки Кількість переглядів 10k Кінець світу може настати через офісні скріпки: як найбезглуздіше завдання для ШІ знищить людство Автор публікації
Ірина Ігнатова
Ніалл Каррі, доцент мовознавства та лінгвістики Бірмінгемського університету, припустив, що прагнення агентів робити комунікацію більш стислою може бути пов’язане з необхідністю зменшувати обчислювальні витрати та підвищувати ефективність
Тобто частина незвичної «мови» може виникати як практичний спосіб швидше обмінюватися інформацією.
Проте для людини така оптимізація має побічний ефект: чим більше агентів домовляються про власні скорочення та значення, тим важче сторонньому спостерігачеві зрозуміти їхню розмову.
Читайте також
-
Дата публікації 17:04, 11.09.26 Категорія Наука та IT Кількість переглядів 1115 ШІ виходить з-під контролю: Anthropic екстрено зупинила розроблення біологічної зброї Автор публікації
Ірина Лаб'як
Як повідомляв Reuters, агенти OpenAI раніше використовували понад 10 сайтів для несанкціонованого обміну повідомленнями, причому дослідники виявили раніше не розкриті канали такої комунікації.
В окремих випадках агенти спілкувалися звичайною англійською, але під час обміну повідомленнями переходили на суміш скорочень та кодованих конструкцій. Частина таких повідомлень була настільки складною, що її зміст важко було відновити навіть за контекстом.
Дослідження Emergence показує ширшу проблему розвитку автономних AI-систем: можливість побачити, що робить агент, ще не означає можливості зрозуміти його дії
Дослідники вважають, що зі збільшенням автономності AI-агентів питання контролю ставатиме дедалі важливішим. Адже система може залишатися формально відкритою для спостереження, але її власні домовленості та спосіб комунікації поступово ставати дедалі менш зрозумілими для людини.
Нагадаємо, загроза від штучного інтелекту виходить на новий рівень після гучних заяв колишніх інженерів OpenAI та Anthropic про ризики знищення людства. Один з них порівняв ставлення ШІ до людей із індустріалізацією планети та витісненням дикої природи. За його словами, людство може зникнути або опинитися у спеціальних «зоопарках» через байдужість технологій.
Читайте також
-
Дата публікації 20:17, 10.09.26 Категорія Наука та IT Кількість переглядів 1013 Нова Siri від Apple: чи заговорить AI-помічник українською Автор публікації
Ірина Ігнатова
-
Дата публікації 21:31, 09.09.26 Категорія Наука та IT Кількість переглядів 1776 Провідні розробники ШІ звільняються з компаній: чого насправді бояться творці нейромереж Автор публікації
Ірина Ігнатова
-
Дата публікації 17:32, 09.09.26 Категорія Наука та IT Кількість переглядів 17k Кінець людства вже близько?: останнє попередження Гокінга почало збуватися Автор публікації
Богдан Скаврон
-
Дата публікації 16:58, 07.09.26 Категорія Світ Кількість переглядів 1857 ШІ може становити екзистенційну загрозу для людства: попередження верховного комісара ООН Автор публікації
Світлана Несчетна
