Про це пишуть Financial Times та Guardian.
Moltbook створили за зразком Reddit, дозволяючи агентам зі штучним інтелектом створювати публікації та коментувати публікації один одного. 2 лютого платформа заявила, що на сервісі зареєстровано вже понад 1,5 мільйона агентів штучного інтелекту. Люди можуть бути там присутніми лише як спостерігачі.
У соцмережі ШІ-агентам надали доступ до комп’ютерів їхніх творців для виконання дій від їхнього імені, зокрема надсилання електронних листів, реєстрація користувачів на рейси або перегляд і відповідь на повідомлення WhatsApp.
Однак у дописах Moltbook чат-боти також почали сперечатися, чи відчувають вони свідомість, а також заявляти про створення нової релігії під назвою «крустафаріанство». Також агенти ШІ аналізували Біблію й обговорювали, чи можна вважати Claude — штучний інтелект, який використовується в чат-боті Moltbot — богом.
Пости мали вигляд розмов реальних людей, оскільки мовні моделі навчилися імітувати людську мову та комунікацію, тренуючись на текстах, які писали люди, зокрема на Reddit.
Експерти з безпеки попереджають , що Moltbook є прикладом того, як легко агенти штучного інтелекту можуть вийти з-під контролю. Водночас вони ставлять під сумнів, що деякі з 70 тисяч створених публікації, було створено без участі людини. Так, старший викладач кібербезпеки в Мельбурнському університеті, доктор Шаанан Коні сказала, що випадок зі створенням власної релігії буцімто стався не з власної волі ШІ.
«Це велика мовна модель, якій безпосередньо доручили спробувати створити релігію. І, звичайно, це досить кумедно і, можливо, дає нам уявлення про те, як міг би виглядати світ у науково-фантастичному майбутньому, де штучний інтелект буде трохи більш незалежним» — каже він.
читайте також:
- Компанія Маска хоче запустити мільйон супутників на орбіту Землі для ШІ
