3月の安全性に関するスナップショットでは、問題のあるコンテンツを検出・削除するように設計された自動化システムを使用して、多くの場合、ユーザーが閲覧する前に当該コンテンツを審査する方法についてお伝えします。 また、クリエーターの方がご自身のゲーム内でのユーザーの不適切な行為を特定・対処できるようにする新しいダッシュボード、および業界全体のコミュニティマネージャーをトレーニングするための新しいプログラムについてもご紹介します。 ユーザーによる報告ツールの詳細については、先月の安全性に関するスナップショットをご確認ください。
ユーザー行動の継続的な審査
Robloxの魅力のひとつは、クリエーターが制作するコンテンツが絶えず拡大し、変化していくことです。 クリエーターは常にゲームのアップデートを公開したり、新しいバッジやペットを追加したりし、ユーザーはリアルタイムでアバターの衣装を変更したり、絵を描いたり、何かを作ったりしています。 当社は、これらすべてをプラットフォームに公開される前に審査し、ガイドラインに違反するものをすべて削除します。
Robloxでは、複数の段階にわたる内容審査ツールによって問題のあるコンテンツの大部分が検出され、コミュニティ基準に違反するものはいずれも削除されます。 しかし、私たちも完璧ではありません。そのため、ユーザーからの報告を活用して、見落とした可能性のある問題を見つけ出し、それに応じて適切な対応をとっています。
Robloxのゲームはダイナミックな性質を持つため、ユーザーが以前に承認されたアバター、衣装、動作をどのように組み合わせるかによって、コンテンツは絶えず変化します。 たとえば、自由に描画できるゲームでは、ユーザーが不快なシンボルやアイテムを描画する可能性があります。 そのため、当社は最近、これらの組み合わせをまとめてスキャンできる、リアルタイムのマルチモーダルな内容審査用の新しいAIシステムを導入いたしました。
従来のAI内容審査システムは、一度に1つのオブジェクトを評価するように設計されており、多くの場合、コンテキストが不足しています。そのため、個々のアイテムだけでは問題にならないような組み合わせを見逃してしまう傾向があります。 当社の新しいリアルタイムのマルチモーダルな内容審査システムは、アバター、テキスト、3Dオブジェクトなど、シーン全体を評価します。 このシステムは、特定の瞬間にこれらの要素をすべて一緒に捉え、シーン全体が当社のルールに違反しているかどうかを判断します。 このような問題のある行為が1つのゲームインスタンスで繰り返し発生した場合、システムはゲーム全体ではなく、そのインスタンス（サーバーとも呼ばれます）のみをシャットダウンします。
このマルチモーダルシステムの導入以来、当社はコミュニティ基準に違反するインスタンスを1日あたり約5,000件シャットダウンしています。 さらに、トレーニングと拡充を進めながら、精度を常に向上させ、コミュニティと協力して偽陽性（誤検出）を最小限に抑えるよう努めています。 そして、プレイ時間の100%を把握および監視できるように、このマルチモーダルシステムの拡張に取り組んでいます。 しかし、どのようなシステムでも、それを回避しようとする人々が常に存在するため、当社はサーバーのシャットダウンにとどまらない技術を積極的に開発しています。 現在、悪意のある特定の利用者を検知する方法を模索中です。これにより、善意のプレイヤーのゲーム体験を損なうことなく、そのような利用者を排除できるようになります。
クリエーターに、サーバーのシャットダウンに関する情報を提供
当社は、安全性の概要ダッシュボードに機能を追加し、このマルチモーダルな内容審査システムの結果に関して、クリエーターにより高い透明性を提供しています。 前述のように、不適切なユーザー行動が頻繁に起こる場合、ゲームサーバーがシャットダウンされます。 クリエーターの方が、自らのゲーム内でこのような事態が発生する頻度をより明確に把握できるように、既存のクリエーターダッシュボードに新しいチャートを追加しました。
今後は、不適切なユーザー行動（例：Robloxのハラスメントおよび差別、または恋愛および性的コンテンツに関するポリシーへの違反）によりシャットダウンされたゲームサーバーの数をご自身で確認していただけます。 これにより、クリエーターの方はサーバーシャットダウンの急増を把握し、より広範なコミュニティに影響を及ぼす前に対処できるようになります。 その後、ご自身のゲームを詳しく検討し、問題のある作品の作成を防ぐために、カスタムリアクション、アバター編集ツール、またはゲーム内のユーザー作成機能に変更を加える必要があるかどうかを判断できます。
デジタル内容審査スタッフのトレーニング
Roblox、Keyword Studios、Riot Gamesは、研究心理学者であり「Games for Change」の研究ディレクターを務めるレイチェル・コワート氏と協力して、デジタルコミュニティのリーダーを対象とした新たな認定プログラムを開始します。 Robloxは、コミュニティの内容審査と健全な交流を促進するデザインに関する専門知識を提供し、新しいDLCリーダーシッププログラムの試験運用とカリキュラムの策定を支援してまいります。 この取り組みの目的は、ゲーム分野におけるオンライン内容審査スタッフ、コミュニティマネージャー、およびクリエーター向けの標準化されたトレーニングが不足しているという問題に対処することです。 コワート博士は最近の記事で、このプログラムの目的は「ゲームコミュニティとオンライン行動に関する研究を、より強靭で持続可能なオンラインコミュニティの構築に向けてデジタルリーダーが活用できる、実用的なツールへと変換すること」であると述べています。
この取り組みに参加することで、当社はRobloxのクリエーターコミュニティおよびゲーム業界全体に貢献することを目的とした、業界初となる標準化された認定プログラムの開発を進めてまいります。 このプログラムが完成すると、クリエーターの方は、成長しつつあるご自身のコミュニティを効果的に審査・管理するために欠かせない重要なスキルを習得できるようになります。 当社は、健全で互いを尊重するオンラインコミュニティを実現するためのベストプラクティスについて、より多くの内容審査スタッフとクリエーターの方にトレーニングを提供することで、オンラインゲームをすべての人にとって一層ポジティブなものに保つことができると信じています。