今月の安全スナップショットでは、アバターへの先制的監視やユーザーにポリシーを周知させるための新技術など、この数週間に導入された安全とネットマナーに関する取り組みを紹介します。 また第三者機関と共に、新たなネットマナー違反報告機能を作成し、導入しました。
アバターへの先制的モデレーションのお知らせ
2025年度のRobloxユーザーによるアバターの更新数は、衣装や髪型の変更、ペットや帽子その他のアクセサリ追加など1日平均2億7,400万回に及びました。 多くのユーザーは、プラットフォーム上での自己表現として、時間をかけてアバターの外観を念入りに作り上げていきます。 当社ではユーザーの安全をサポートするため、アバターマーケットプレイスにアップロードされた全数を対象に先制的にスキャンした上で、コミュニティ基準違反と判断したものをブロックしています。 ただし、ユーザーが無害なアイテムを組み合わせ、結果的に当社のポリシーに違反する衣装となる場合があります。 たとえば、黒いスーツ、腕章、口ひげは単体ではすべて規定に準拠していますが、組み合わせて使えば、当社のポリシーに違反するアドルフ・ヒトラーを連想させるアバターができる可能性があります。
ネットマナーに関する調査のサポート
これまで当社は、ユーザーからの報告を通じて問題のあるアバターを特定してきました。 今月からは、アバターに変更が加えられるごとに、また多くの場合他のユーザーに見られる前に、事前に違反の有無を自動的にスキャンしていきます。 このスキャンは、すべてのアイテムが装備された状態の完全なアバターを評価し、当社基準への違反の有無を検出します。 システムが不適切なものを検出した場合、そのユーザーのアバターはデフォルト状態（すなわちすべてのアバターアイテムなし）にリセットされます。 アバターのリセットとポリシー違反の内容はそのユーザーに通知され、ユーザーが当社プラットフォームのガイドラインを周知し、以後遵守するのに役立ちます。 完璧なシステムとは言えないまでも、この通知により、ユーザー側はシステムのエラーと思う場合にフラグを立てることができ、当社側でもモデレーションの精度向上に役立ちます。
Supporting Civility Research
Robloxではゲーム業界に役立つ研究をさらに進めるべく、Prosocial Design Networkと協力しました。Prosocial Design Networkは、オンラインプラットフォームにおける予防的・先制的な動作を醸成・促進する革新的なデザイン要素の普及が専門の組織です。 このコラボレーションの目的は、ゲームプラットフォームにおけるポジティブな社会的つながりを促進するのに役立つ研究プロジェクトを特定することでした。 各提案を審査の結果、ゲームを通じたつながりの促進に関するプロジェクト追求への助成金が、6つの研究チームに授与されたことを謹んでお知らせします。 当社ではこれらの研究プロジェクトの進展に伴う成果と、それらがRobloxおよび各社の将来的な製品設計に示唆するものを注視していく所存です。 受賞プロジェクトの詳細は、こちらでご確認いただけます。
レポート：ポジティブな社会的つながりのためのデザイン
当社は最近、ウェスタンシドニー大学Young and Resilient Research CentreとPROJECT ROCKITとの共同研究による、つながりの構築に関するレポートを発表しました。 このレポートは、政策立案者やテクノロジー業界のリーダーを対象に、子どもたちのウェルビーイング、自律性、健全な社会的つながりのために、目的意識のある予防的なデザインをするためのフレームワークを提供しています。 これらのエビデンスに基づく提言には技術革新と規制基準が含まれ、若い世代が安全なつながりのある環境で成長できるデジタル環境を、業界が一丸となって構築する一助となります。
このレポートの提言は、Robloxが長年にわたって行ってきた投資を裏付けるものであり、安全設計に関する当社の考え方と一致する点が多くあります。具体的には以下のとおりです。
多層的な安全システム：長年にわたり、当社は冗長性と継続的な改善を組み込んだ多層的な安全システムを設計し、イノベーションとユーザーの安全性のバランスを実現してきました。
専門家との連携：当社は、高度な安全技術と現実世界のコラボレーションを組み合わせ、保護者、安全の専門家、政府機関など、あらゆる関係者と連携してコミュニティの安全と秩序を維持しています。
ティーンと保護者の協議会：これらの協議会では、若者とその保護者の両方に当社のポリシーや機能の一部について協議してもらいます。また、言語に関する洞察を提供し、若いユーザーに共有するコンテンツが適切かつ尊重されていると感じられるものにします。
リアルタイムの音声モデレーション：このシステムは、ユーザーがポリシーに違反した際に通知を作動して、それを本人に知らせます。これによりポリシーを周知徹底させ、また以降の違反に対するチャットのタイムアウトも実装しています。
先制的なアバターのモデレーション：上記のように、この新しいシステムには、そのユーザーのアバターを公開できない理由や、アバターや更新のポリシーへの違反内容をユーザーが学習できるための情報も含まれます。
「私たちとRobloxとのコラボレーションは、若者のウェルビーイングを優先するデジタル環境を構築する上で、エビデンスに基づく設計の重要性を強調するものです」と、ウェスタンシドニー大学Young and Resilient Research Centreのアマンダ・サード教授は述べています。 「この重要な研究が強調するのは、研究者、若者、業界を結びつけることで理解を深め、つながり、共感、インクルージョン、そして前向きなソーシャルエンゲージメントを育む空間をつくることの価値です。 子どもの権利を守り、その過程の中心に若い世代の意見を据えて、向社会的行動を有意義にサポートするオンライン環境を構築するには、セクター間の連携が不可欠です」
これらの取り組みはすべて、ネットいじめの防止と健全でポジティブなオンライン上の社会的つながりの促進を目的に活動する、PROJECT ROCKITなどの青少年団体に対する当社の継続的な支援と協力の一環です。