Roblox、Discord、OpenAI、Googleが提携を発表ねぐら Robust Open Online Safety Tools (ROOT) を開発しているこの非営利団体は、これを利用して、人工知能の時代により適した、拡張性と相互運用性に優れたセキュリティ インフラストラクチャを構築する予定です。
「ROOST」は、特に子どもの安全を重視し、公共部門と民間部門にオープンソースの安全ツールを無料で提供し、それぞれのサービスプラットフォームで使用できるようにします。
関連声明の中で、「ROOST」は、オープンソースセキュリティツール内で児童性的虐待関連コンテンツ（CSAM）を検出、確認、報告するためのメカニズムを提供すると述べ、「ROOST」のパートナーは、このオープンソースセキュリティツールの保守とその後の更新に必要な資金と、関連する技術的知識を提供するとしている。
ROOSTの目標は、自動生成人工知能の発展により多くのオンラインコンテンツのトレンドが変化する中で、より信頼性の高いセキュリティインフラを構築することで、オンラインコンテンツの信頼性を確保することです。同時に、中小企業や組織は、セキュリティツールをゼロから構築することなく、ROOSTが提供するオープンソースツールリソースを通じてコンテンツのセキュリティを確保できるようになります。
近年、児童のオンライン安全は大きな懸念事項となっています。特に、多くの児童や青少年を惹きつけ、数々の安全保護ポリシーを策定し続けているRobloxにとって、その懸念は深刻です。GoogleやOpenAIなどの人工知能技術企業も、児童の安全を害するコンテンツの制作に自社の技術を利用しないことを誓約しています。
「ROOST」が提供するオープンソースのセキュリティツールは、子どもの安全に関する問題を完全に排除することはできませんが、少なくとも、より多くの企業がそのような問題に対処しやすくなります。