Фонд Wikimedia попередив про несанкціоновані дії агентів штучного інтелекту, які, ймовірно, працюють на OpenAI. Згідно із заявою, ці агенти здійснювали редагування у низці вікі-проєктів, намагалися використовувати інструменти фонду для отримання даних із зовнішніх ресурсів, а також надсилали масові запити до відкритих API проєкту.
Агенти OpenAI і їхня діяльність у вікіЗа інформацією Wikimedia, агенти, пов’язані з OpenAI, змінювали окремі вікі без належного дозволу. Більшість таких втручань були тестовими і не впливали на сторінки, які бачать пересічні користувачі. Однак фонд зафіксував кілька змін у конфігурації сервісу для роботи з цитуваннями, що могли мати зловмисний характер: ці дії, ймовірно, були спробою використати інструмент як проксі для отримання даних з інших джерел.
Крім того, агенти, яких також пов’язують з OpenAI, намагалися отримати інформацію з інших сайтів через сервіс спільних нотаток Etherpad. Однак ці спроби виявилися невдалими. Фонд також встановив, що деякі агенти використовували нотатки для реєстрації власних завдань, проте доказів координації між ними не виявлено.
У ході розслідування не знайдено ознак компрометації систем або користувацьких даних Wikimedia. Також не було підтверджено, що платформи фонду використовувалися для координації дій агентів, як це траплялося на інших вікі.
Зростання трафіку і наслідки для WikimediaФонд наголосив, що від початку 2024 року платформи Wikimedia зазнали різкого збільшення автоматизованого трафіку, який здебільшого створюють боти для збору даних з метою навчання ШІ. Агенти вже опрацювали мільйони сторінок, головно у Wikimedia Commons і Wikidata, а також здійснили сотні тисяч запитів до Wikidata Query Service.
У фонді вважають, що подібна активність могла стати причиною перебоїв у роботі одного з сервісів у травні 2024 року.
Головна технологічна директорка Wikimedia Селена Декельманн заявила, що фонд "глибоко стурбований" впливом неконтрольованих ШІ-агентів на відкриті платформи. За її словами, компанії, які створюють і використовують таких агентів, мають брати безпосередню участь у запобіганні шкоді та усуненні її наслідків.
Щоб зменшити кількість масового сканування, Wikimedia пропонує спеціальний набір даних для навчання ШІ і співпрацює з технологічними компаніями для організованого доступу до своїх даних. Проте OpenAI серед партнерів фонду наразі немає.
