Roblox, Discord, OpenAI та Google об’єднуються для боротьби з онлайн-загрозами

Roblox, Discord, OpenAI та Google об'єднали зусилля для створення ROOST (Robust Open Online Safety Tools) — некомерційної організації, що розроблятиме масштабовані інструменти онлайн-безпеки у час ШІ, пише Engadget.

Що таке ROOST і чим воно займатиметься?

ROOST планує надавати безкоштовні інструменти безпеки з відкритим кодом державним та приватним організаціям для використання на власних платформах. Основна увага організації буде зосереджена на захисті дітей в інтернеті.

Підписуйтеся на наші соцмережі

Одним із ключових напрямів буде розроблення інструментів для виявлення, перегляду та повідомлення про матеріали сексуального насильства над дітьми (CSAM). Фінансування та технічну підтримку забезпечуватимуть компанії-засновники.

Чому ROOST — це важливо?

 Багато компаній не мають ресурсів для самостійного розроблення інструментів для боротьби з подібними загрозами у час активного розвитку ШІ, тож ROOST пропонує готові рішення, що має на меті зробити інтернет безпечнішим.

Google та OpenAI, наприклад, пообіцяли блокувати можливості штучного інтелекту для створення CSAM.

Для Roblox ця проблема є особливо актуальною, адже платформою користуються мільйони дітей. У 2024 році видання Bloomberg Businessweek повідомило, що компанія мала серйозні проблеми з небезпечним контентом, що призвело до посилення політики безпеки та обмежень у спілкуванні дітей.