ソーシャルメディアプラットフォーム向けのトラスト＆セーフティの有害コンテンツの分類
あるソーシャルメディアプラットフォームは、対応範囲の偏りによって英語圏以外の一部の市場でモデレーションが大幅に不足していたことから、トラスト＆セーフティのモデルを学習させるため、複数の言語にわたって有害コンテンツを一貫して分類することを必要としていました。
Client snapshot
| Industry | ソーシャルメディアとコンテンツプラットフォーム |
|---|---|
| Region | グローバル、クライアントで最も急成長している英語圏以外の市場に集中 |
| Engagement type | トラスト＆セーフティのための多言語の有害コンテンツの分類 |
The challenge
クライアントのモデレーションモデルは英語ではうまく機能していましたが、最も急成長している市場のいくつかでは対応範囲が明らかに弱く、有害コンテンツは検知が難しいだけでなく、見逃した場合のプラットフォームへのリスクも大きいものでした。
The approach
Jwumaは、クライアントの優先言語にわたってネイティブスピーカーのアノテーターを割り当て、詳細な有害性の分類体系に沿ってコンテンツを分類しました。意見が分かれた分類や境界線上の分類はレビューの階層にエスカレーションし、言語間の分類の一貫性を監視するためにゴールドタスクによるキャリブレーションを用いました。
Results
クライアントは、これまでモデレーションが大幅に不足していた市場にまで、一貫した有害コンテンツの分類の対応範囲を広げ、トラスト＆セーフティの対応における大きなギャップを埋めました。
Frequently asked questions
多言語の有害コンテンツの分類が、英語のみのモデレーションより難しいのはなぜですか？
有害コンテンツは、現地のスラング、文化的な文脈、隠語に頼ることが多く、主に英語のデータで学習したモデルでは確実に見つけられないためです。
Jwumaは、多くの言語にわたって分類の一貫性をどのように保っていますか？
各言語のネイティブスピーカーのアノテーターが適用する共通の有害性の分類体系と、アノテーター全体の一貫性を監視するゴールドタスクによるキャリブレーションによってです。
コンテンツの分類に意見の相違や不明な点がある場合はどうなりますか？
誤った判断がプラットフォームにもたらすリスクを考慮して、1人のアノテーターの判断に任せず、Jwumaの多段階のレビュー階層でエスカレーションされます。
Related case studies
世界的なモビリティプラットフォーム向けの顔・本人確認データ
世界的なモビリティ・ライドシェアのプラットフォームが、ドライバーと乗客の安全確認システムを強化するため、厳格な同意と生体情報の取り扱い要件のもとで、複数の地域にわたる検証済みの顔と本人確認のデータを必要としていました。
ロボティクスAIプログラム向けのエゴセントリック動画データ収集
あるロボティクスAI企業は、身体性を持つAIモデルが単一の研究室の環境を超えて汎化できるように学習させるため、多様な環境と体型で一貫して撮影された、人間が日常の物理的な作業を行う一人称視点の動画を必要としていました。
対話型AIモデルのRLHF評価
ある対話型AI企業は、既存の場当たり的な評価者のプールが一貫性のない採点を生んだことから、RLHFのファインチューニングのプロセスでチャットボットの回答品質を評価するための、構造化され拡張可能な人間による評価パイプラインを必要としていました。
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.