소셜 미디어 플랫폼을 위한 신뢰 및 안전 유해 콘텐츠 분류
한 소셜 미디어 플랫폼은 고르지 못한 커버리지로 인해 영어권이 아닌 일부 시장에서 검수가 현저히 부족해지자, 신뢰 및 안전 모델을 학습시키기 위해 여러 언어에 걸쳐 일관되게 분류된 유해 콘텐츠가 필요했습니다.
Client snapshot
| Industry | 소셜 미디어 및 콘텐츠 플랫폼 |
|---|---|
| Region | 전 세계, 고객사에서 가장 빠르게 성장하는 비영어권 시장에 집중 |
| Engagement type | 신뢰 및 안전을 위한 다국어 유해 콘텐츠 분류 |
The challenge
고객사의 검수 모델은 영어에서는 성능이 좋았지만, 가장 빠르게 성장하는 여러 시장에서는 커버리지가 의미 있게 약했습니다. 그런 시장에서는 유해 콘텐츠를 탐지하기가 더 어려웠고, 놓쳤을 때 플랫폼에 미치는 위험도 과도하게 컸습니다.
The approach
Jwuma는 고객사의 우선 언어 전반에서 원어민 어노테이터를 배정하여 상세한 유해성 분류 체계에 따라 콘텐츠를 분류했으며, 이견이 있거나 경계에 있는 분류는 검토 단계를 통해 상향하고 언어 전반의 분류 일관성을 모니터링하기 위해 골드 작업 보정을 사용했습니다.
Results
고객사는 이전에 검수가 현저히 부족했던 시장으로 일관된 유해 콘텐츠 분류 커버리지를 확장하여, 신뢰 및 안전 커버리지의 의미 있는 공백을 메웠습니다.
Frequently asked questions
다국어 유해 콘텐츠 분류가 영어만 다루는 검수보다 어려운 이유는 무엇인가요?
유해 콘텐츠는 현지 속어, 문화적 맥락, 은어에 의존하는 경우가 많은데, 주로 영어 데이터로 학습한 모델은 이를 안정적으로 포착하지 못하기 때문입니다.
Jwuma는 여러 언어에 걸쳐 분류 일관성을 어떻게 유지하나요?
각 언어의 원어민 어노테이터가 적용하는 공통 유해성 분류 체계를 통해, 그리고 전체 어노테이터 풀에 걸친 일관성을 모니터링하는 골드 작업 보정을 통해 유지합니다.
콘텐츠 분류에 이견이 있거나 불분명하면 어떻게 되나요?
잘못된 판단이 플랫폼에 미치는 위험을 감안해, 어노테이터 한 명의 판단에 맡기지 않고 Jwuma의 다단계 검토 체계를 통해 상향됩니다.
Related case studies
글로벌 모빌리티 플랫폼을 위한 안면 및 신원 인증 데이터
한 글로벌 모빌리티 및 차량 호출 플랫폼은 엄격한 동의 및 생체 정보 처리 요건 아래에서 운전자와 승객의 안전 인증 시스템을 강화하기 위해, 여러 지역에 걸쳐 검증된 안면 및 신원 데이터가 필요했습니다.
로보틱스 AI 프로그램을 위한 에고센트릭 비디오 데이터 수집
한 로보틱스 AI 기업은 임바디드 AI 모델이 단일 실험실 환경을 넘어 일반화되도록 학습시키기 위해, 다양한 환경과 체형에 걸쳐 일관되게 촬영된, 사람이 일상적인 신체 작업을 수행하는 1인칭 비디오가 필요했습니다.
대화형 AI 모델을 위한 RLHF 평가
한 대화형 AI 기업은 기존의 임시 평가자 풀이 일관되지 않은 채점을 낳은 후, RLHF 미세 조정 과정에서 챗봇 응답 품질을 평가할 구조화되고 확장 가능한 사람 평가 파이프라인이 필요했습니다.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.