社交媒体平台的信任与安全有害内容分类
一家社交媒体平台在覆盖不均导致其部分非英语市场的审核明显不足之后，需要对多种语言的有害内容进行一致的分类，以训练其信任与安全模型。
Client snapshot
| Industry | 社交媒体与内容平台 |
|---|---|
| Region | 全球，集中在客户增长最快的非英语市场 |
| Engagement type | 用于信任与安全的多语言有害内容分类 |
The challenge
客户的审核模型在英语中表现良好，但在其增长最快的若干市场中覆盖明显较弱，那里的有害内容既更难检测，一旦漏掉，对平台带来的风险也格外大。
The approach
Jwuma 在客户的重点语言中分配了母语者标注员，按详细的危害分类体系对内容进行分类，有争议或处于临界的分类通过审核层级上报，并使用黄金任务校准来监控跨语言的分类一致性。
Results
客户将一致的有害内容分类覆盖扩展到此前审核明显不足的市场，弥补了其信任与安全覆盖中的一个重要缺口。
Frequently asked questions
为什么多语言有害内容分类比仅英语的审核更难？
因为有害内容往往依赖当地俚语、文化背景和暗语，而主要用英语数据训练的模型无法可靠地发现这些内容。
Jwuma 如何在多种语言中保持分类的一致性？
通过由每种语言的母语者标注员应用的共用危害分类体系，并通过黄金任务校准监控整个标注员群体的一致性。
当内容分类有争议或不明确时会怎样？
鉴于错误判断会给平台带来风险，它会通过 Jwuma 的多级审核阶梯上报，而不是取决于单个标注员的判断。
Related case studies
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.