Google, Meta, Microsoft посилюють заходи проти сексуального насильства над дітьми

Технологічні корпорації, такі як Google, Meta, OpenAI, Microsoft і Amazon, зобов'язалися боротися з матеріалами щодо сексуального насильства над дітьми (CSAM — child sexual abuse material) в своїх навчальних даних штучного інтелекту.Про це повідомляє The Verge.Компанії підписали новий набір принципів, спрямованих на обмеження розповсюдження CSAM. Технологічні гіганти обіцяють переконатися, що навчальні набори даних ШІ не міститимуть даних із високим ризиком включення CSAM, а також обіцяють видалити зображення, що стосуються насильства над дітьми. Компанії також зобов’язуються проводити «стрес-тестування» моделей штучного інтелекту, щоб переконатися, що вони не створюють жодних зображень із зображенням сексуального насильства, і випускати моделі, лише якщо вони були оцінені на предмет безпеки дітей. Серед інших компаній, які підтримали таку ініціативу: Anthropic, Civitai, Metaphysic, Mistral AI та Stability AI. Generative AI сприяв зростанню занепокоєння з приводу підробок зображень, у тому числі розповсюдження підроблених фотографій CSAM в інтернеті.У грудні дослідники зі Стенфордського університету опублікували звіт, у якому йшлося про те, що популярний набір даних, який використовується для навчання деяких моделей ШІ, містить посилання на матеріали сексуального насильства над дітьми. Також з'ясувалося, що Національний центр зниклих безвісти та експлуатованих дітей (NCMEC) швидко переповнюється зображеннями CSAM, створеними саме штучним інтелектом.