Компанія Midjourney, яка пропонує послугу створення зображень за допомогою штучного інтелекту, призупинила безплатні пробні версії свого сервісу, повідомляє The Verge.
На такий крок розробники нейромережі пішли після того, як кілька її згенерованих зображень — включно з фальшивими зображеннями арешту Дональда Трампа і Папи Римського в стильній куртці — стали вірусними в інтернеті, і багато хто прийняв підробки за реальні фотографії.
У чому корінь проблемиДевід Хольц, засновник і генеральний директор Midjourney, оголосив про цю зміну з посиланням на "надзвичайний попит і зловживання пробними версіями". Раніше Midjourney дозволяла будь-кому зареєструватися, щоб використовувати своє програмне забезпечення через Discord, пропонуючи 25 безплатних генерацій зображень перед тим, як почати стягувати плату за передплату від $10 на місяць. Багато хто, не бажаючи платити, просто реєстрував нові акаунти, тож такий суворий крок може бути викликаний боротьбою не стільки з дипфейками, скільки з "халявниками", вважають деякі експерти.
Багато ІТ-фахівців давно попереджали про небезпечний потенціал ШІ для створення дезінформації,
але це раніше не було великою проблемою, тому що підробки легко розпізнавались. Однак можливості генеративного ШІ набирають обертів і хвиля підроблених фото, як у випадку з Трампом та Папою Римським, напевно, не останній інцидент.
Midjourney випустила п'яту версію свого програмного забезпечення, де значно покращила якість створення зображень, особливо з людьми. Ці покращення призвели до того, що низка зображень Midjourney стали вірусними в останні тижні. На фейках засвітилися не лише Дональд Трамп із Папою, а й Еммануель Макрон, Ілон Маск.
Чим слабша модерація – тим більше фейківБагато експертів вважають, що нейромережа стала жертвою слабкої модерації та лояльної політики щодо генерованих зображень. Правила Midjourney більш поблажливі, ніж у деяких конкурентних сервісів (наприклад, DALL-E), але суворіші, ніж в інших (наприклад, Stable Diffusion). Нейромережа підтримує список заборонених слів і тематик (залежить від країни зареєстрованого користувача), але чітко переліку цих "стоп-фраз" так і не опубліковано. Тим більше сам Хольц минулого року заявляв, що обмежень ніхто не помітить,
якщо не намагатиметься згенерувати "заборонку". Але все ж таки тепер компанія оголосила, що внесла до забороненого списку слово "арештований", наприклад.
За словами Девіда Хольца, окрім обов'язкової оплати його компанія планує запровадити нові заходи безпеки для своїх користувачів, такі як двофакторна автентифікація та перевірка особи. Він також закликав користувачів бути відповідальними за свої генерації та не використовувати їх для створення дезінформації чи порушення авторських прав.
Як відрізнити дипфейк від реальностіІТ-фахівці у сфері машинного навчання радять звертати увагу на дрібні деталі зображення, такі як аномалії в освітленні, тіні чи відображенні. Генеративний ШІ, попри всю реалістичність, все ще далекий від досконалості й це можна легко помітити на "фото" з арештом Трампа, наприклад. Якщо подивитися трохи уважніше, то легко побачити, що все зображення надто картинне, як би намальоване, є безліч характерних для картинних мазків розмитости.
Інший спосіб – це перевірити джерело зображення або відео та порівняти його з іншими джерелами інформації. Також можна використовувати спеціальні інструменти або програми, які допомагають виявляти дипфейки за допомогою аналізу пікселів або метаданих.
Проте з розвитком технології штучного інтелекту стане дедалі складніше відрізнити реальне зображення чи відео від підробленого. Тому необхідно підвищувати обізнаність громадськості про потенційні ризики дипфейків та розвивати критичне мислення та медіаграмотність, кажуть фахівці.
Раніше Фокус писав, що ШІ звинуватили в тому, що він довів людину до самогубства : хто винний насправді.
