ゲームプラットフォーム向けのコンテンツモデレーションと有害表現の検知
あるゲームプラットフォームは、通常の対戦中の軽口を過剰に検知することなく、嫌がらせや暴言を見つけられるようにモデレーションモデルを学習させるため、有害なゲーム内チャットと有害でないゲーム内チャットのアノテーション済みの例を必要としていました。
Client snapshot
| Industry | オンラインゲームとインタラクティブエンターテインメント |
|---|---|
| Region | グローバル、プラットフォームの主なプレイヤーの言語に合わせてコントリビューターを選定 |
| Engagement type | ゲーム内チャットのモデレーションのための有害表現と嫌がらせのアノテーション |
The challenge
クライアントの既存のモデレーションモデルは、本当に有害な言葉と、対戦ゲームのスラングや軽口を区別するのに苦労しており、嫌がらせの見逃しと、プレイヤーを不満にさせる誤検知の両方が生じていました。
The approach
Jwumaは、ゲームコミュニティの言葉遣いの慣習に詳しいアノテーターを割り当て、本物の嫌がらせと対戦中の軽口を区別する詳細な有害表現の分類体系に沿ってチャットの例にラベルを付けました。意見が分かれた例や境界線上の例は、レビューの階層にエスカレーションしました。
Results
クライアントが再学習させたモデレーションモデルは、本物の嫌がらせと通常の対戦中のチャットをより適切に分けられるようになり、評価セットで、違反の見逃しとプレイヤーへの誤検知の両方が減りました。
Frequently asked questions
ゲームチャットのモデレーションが、一般的なコンテンツモデレーションより難しいのはなぜですか？
対戦型のゲームコミュニティでは、攻撃的な言葉やスラングが使われ、文脈を離れると嫌がらせのように見えることがあるため、正確にラベルを付けるには、そうした慣習に詳しいアノテーターが必要になります。
Jwumaは、有害表現検知の学習データで誤検知をどのように減らしますか？
本物の嫌がらせと対戦中の軽口を明確に区別する詳細な分類体系を使い、曖昧なケースは、自動的にフラグを立てるのではなく、レビューの階層にエスカレーションします。
この方法は、複数のゲームタイトルや言語をカバーできますか？
はい。各タイトルについて、アノテーターを、そのゲーム固有のコミュニティの慣習と対象言語に合わせる場合は可能です。
Related case studies
世界的なモビリティプラットフォーム向けの顔・本人確認データ
世界的なモビリティ・ライドシェアのプラットフォームが、ドライバーと乗客の安全確認システムを強化するため、厳格な同意と生体情報の取り扱い要件のもとで、複数の地域にわたる検証済みの顔と本人確認のデータを必要としていました。
ロボティクスAIプログラム向けのエゴセントリック動画データ収集
あるロボティクスAI企業は、身体性を持つAIモデルが単一の研究室の環境を超えて汎化できるように学習させるため、多様な環境と体型で一貫して撮影された、人間が日常の物理的な作業を行う一人称視点の動画を必要としていました。
対話型AIモデルのRLHF評価
ある対話型AI企業は、既存の場当たり的な評価者のプールが一貫性のない採点を生んだことから、RLHFのファインチューニングのプロセスでチャットボットの回答品質を評価するための、構造化され拡張可能な人間による評価パイプラインを必要としていました。
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.