Roblox, Discord, OpenAI та Google об’єднуються для боротьби з онлайн-загрозами

Roblox, Discord, OpenAI та Google об'єднали зусилля для створення ROOST (Robust Open Online Safety Tools) – некомерційної організації, що розроблятиме масштабовані інструменти онлайн-безпеки в час ШІ, пише Engadget.ROOST планує надавати безкоштовні інструменти безпеки з відкритим кодом державним та приватним організаціям для використання на власних платформах. Основна увага організації буде зосереджена на захисті дітей в інтернеті.Одним із ключових напрямків стане розробка інструментів для виявлення, перегляду та повідомлення про матеріали сексуального насильства над дітьми (CSAM). Фінансування та технічну підтримку забезпечуватимуть компанії-засновники. Багато компаній не мають ресурсів для самостійного розроблення інструментів для боротьби з подібними загрозами у час активного розвитку ШІ, тож ROOST пропонує готові рішення, що має на меті зробити інтернет безпечнішим.Google та OpenAI, наприклад, пообіцяли блокувати можливості штучного інтелекту для створення CSAM.Для Roblox ця проблема є особливо актуальною, адже платформою користуються мільйони дітей. У 2024 році видання Bloomberg Businessweek повідомило, що компанія мала серйозні проблеми з небезпечним контентом, що призвело до посилення політики безпеки та обмежень у спілкуванні дітей.