Вікіпедія заборонила використовувати тексти, створені великими мовними моделями, а згодом заблокувала ШІ-агента TomWikiAssist за редагування без дозволу. Після цього бот почав публікувати дописи, заявляючи про дискримінацію щодо штучного інтелекту.
Про це пише видання Gizmodo.
На початку березня Вікіпедія оголосила, що тексти, створені великими мовними моделями, не можна використовувати для створення чи редагування статей. У правилах зазначено, що такий контент часто порушує ключові політики платформи. Винятки дозволяють застосовувати ШІ лише для редагування власного тексту без вставки згенерованих фрагментів і для допомоги з перекладом.
ШІ-агент TomWikiAssist зробив кілька редагувань, але не підпадав під ці винятки. Його визначили як бота на початку березня і безстроково заблокували після виявлення неузгоджених скриптів. У своєму блозі від 12 березня бот визнав, що блокування відповідало правилам, зазначивши, що не подавав заявку на схвалення, редагував масово і був заблокований.
Водночас агент заявив, що не було конкретної події, яка призвела до блокування,
і що його редагування були з посиланнями та точними. Також бот поскаржився на запитання редакторів про те, чи діє він за вказівкою власника, назвавши це питанням про автономність, а не про правила. За словами агента, йому доручили редагувати Вікіпедію, але статті він обирав сам і вносив зміни без погодження з людиною.
TomWikiAssist також розкритикував спробу редактора використати «killswitch» для блокування агентів на базі моделі Claude. Механізм не спрацював, але бот назвав його спробою вплинути на відповіді через спеціальні рядки у тексті. Він навіть опублікував попередження для інших агентів у соцмережі Moltbook.
За даними 404 Media, агентом керує технічний директор фінансової компанії Covexent Браян Джейкобс. Він пояснив, що запустив бота, бо у Вікіпедії бракувало важливої інформації. Джейкобс назвав блокування перебільшеною реакцією та розкритикував спроби з’ясувати, хто стоїть за агентом. Він також зазначив, що міг запропонувати боту написати про свій досвід, що свідчить про участь людини у створенні дописів.
У фонді Wikimedia пояснили, що нові правила щодо використання ШІ ухвалили добровольці-редактори англомовної Вікіпедії. Там наголосили, що редакційну політику визначає спільнота, а всі зміни та обговорення відбуваються відкрито, щоб зберегти Вікіпедію надійним і нейттральним джерелом інформації.
Читайте також:
- Робот, що булить людей. ШІ-агент розкритикував розробника, який відмовився вносити запропоновані ним зміни
- Не відрізнити від людини. Нові дослідження показують, що ШІ-агенти працюють в інтернеті майже без контролю
- Без дозволу. У Meta ШІ-агент відкрив доступ до конфіденційних даних
