Clasificación de contenido dañino de confianza y seguridad para una plataforma de redes sociales
Una plataforma de redes sociales necesitaba clasificar de forma coherente el contenido dañino en varios idiomas para entrenar su modelo de confianza y seguridad, después de que una cobertura desigual dejara algunos de sus mercados de habla no inglesa significativamente poco moderados.
Client snapshot
| Industry | Redes sociales y plataformas de contenido |
|---|---|
| Region | Global, concentrado en los mercados de habla no inglesa de más rápido crecimiento del cliente |
| Engagement type | Clasificación multilingüe de contenido dañino para confianza y seguridad |
The challenge
El modelo de moderación del cliente rendía bien en inglés, pero tenía una cobertura notablemente más débil en varios de sus mercados de más rápido crecimiento, donde el contenido dañino era más difícil de detectar y, cuando se pasaba por alto, suponía un riesgo desproporcionado para la plataforma.
The approach
Jwuma asignó anotadores hablantes nativos de los idiomas prioritarios del cliente para clasificar el contenido según una taxonomía de daños detallada, con las clasificaciones disputadas o dudosas escaladas por un nivel de revisión y con calibración mediante tareas de oro para supervisar la coherencia de la clasificación entre idiomas.
Results
El cliente extendió una cobertura coherente de clasificación de contenido dañino a mercados que antes estaban significativamente poco moderados, cerrando una brecha considerable en su cobertura de confianza y seguridad.
Frequently asked questions
¿Por qué es más difícil la clasificación multilingüe de contenido dañino que la moderación solo en inglés?
Porque el contenido dañino suele apoyarse en jerga local, contexto cultural y lenguaje en clave que un modelo entrenado principalmente con datos en inglés no detectará de forma fiable.
¿Cómo mantiene Jwuma la coherencia de la clasificación entre muchos idiomas?
Mediante una taxonomía de daños compartida aplicada por anotadores hablantes nativos en cada idioma, con calibración mediante tareas de oro que supervisa la coherencia en todo el grupo de anotadores.
¿Qué ocurre cuando una clasificación de contenido se disputa o no está clara?
Se escala por la escalera de revisión de varios niveles de Jwuma en lugar de depender del juicio de un solo anotador, dado el riesgo para la plataforma de una decisión incorrecta.
Related case studies
Datos de verificación facial y de identidad para una plataforma global de movilidad
Una plataforma global de movilidad y transporte con conductor necesitaba datos faciales y de identidad verificados en varias regiones para reforzar un sistema de verificación de seguridad de conductores y pasajeros, bajo estrictos requisitos de consentimiento y de tratamiento de datos biométricos.
Recopilación de datos de vídeo egocéntrico para un programa de IA de robótica
Una empresa de IA de robótica necesitaba vídeo en primera persona de personas realizando tareas físicas cotidianas, captado de forma coherente en entornos y tipos de cuerpo diversos, para entrenar un modelo de IA corpórea que generalizara más allá de un único entorno de laboratorio.
Evaluación RLHF para un modelo de IA conversacional
Una empresa de IA conversacional necesitaba un circuito de evaluación humana estructurado y escalable para puntuar la calidad de las respuestas de un chatbot en su proceso de ajuste fino con RLHF, después de que su grupo de evaluadores ad hoc produjera una puntuación incoherente.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.