Moderación de contenido y detección de toxicidad para una plataforma de videojuegos
Una plataforma de videojuegos necesitaba ejemplos anotados de chat tóxico y no tóxico dentro del juego para entrenar su modelo de moderación a detectar el acoso y el lenguaje abusivo sin marcar en exceso las bromas competitivas normales.
Client snapshot
| Industry | Videojuegos en línea y entretenimiento interactivo |
|---|---|
| Region | Global, con colaboradores asignados a los idiomas principales de los jugadores de la plataforma |
| Engagement type | Anotación de toxicidad y acoso para la moderación del chat dentro del juego |
The challenge
El modelo de moderación existente del cliente tenía dificultades para distinguir el lenguaje genuinamente dañino de la jerga y las bromas propias de los videojuegos competitivos, lo que producía tanto acoso no detectado como marcas de falsos positivos que frustraban a los jugadores.
The approach
Jwuma asignó anotadores familiarizados con las convenciones lingüísticas de la comunidad gamer para etiquetar ejemplos de chat según una taxonomía de toxicidad detallada que distinguía el acoso genuino de las bromas competitivas, y los ejemplos disputados o dudosos se escalaron por un nivel de revisión.
Results
El modelo de moderación reentrenado del cliente mostró una mejor separación entre el acoso genuino y el chat competitivo normal, lo que redujo tanto las infracciones no detectadas como las marcas de falsos positivos a jugadores en su conjunto de evaluación.
Frequently asked questions
¿Por qué es más difícil moderar el chat de los videojuegos que moderar contenido en general?
Porque las comunidades de videojuegos competitivos usan un lenguaje agresivo y una jerga que, fuera de contexto, puede parecer acoso, por lo que se necesitan anotadores familiarizados con esas convenciones para etiquetar con exactitud.
¿Cómo reduce Jwuma los falsos positivos en los datos de entrenamiento para detección de toxicidad?
Mediante una taxonomía detallada que distingue explícitamente el acoso genuino de las bromas competitivas, con los casos ambiguos escalados a un nivel de revisión en lugar de marcarse por defecto.
¿Puede este enfoque cubrir varios títulos de juegos o idiomas?
Sí, siempre que los anotadores se asignen según las convenciones de la comunidad de cada juego y los idiomas de destino de cada título.
Related case studies
Datos de verificación facial y de identidad para una plataforma global de movilidad
Una plataforma global de movilidad y transporte con conductor necesitaba datos faciales y de identidad verificados en varias regiones para reforzar un sistema de verificación de seguridad de conductores y pasajeros, bajo estrictos requisitos de consentimiento y de tratamiento de datos biométricos.
Recopilación de datos de vídeo egocéntrico para un programa de IA de robótica
Una empresa de IA de robótica necesitaba vídeo en primera persona de personas realizando tareas físicas cotidianas, captado de forma coherente en entornos y tipos de cuerpo diversos, para entrenar un modelo de IA corpórea que generalizara más allá de un único entorno de laboratorio.
Evaluación RLHF para un modelo de IA conversacional
Una empresa de IA conversacional necesitaba un circuito de evaluación humana estructurado y escalable para puntuar la calidad de las respuestas de un chatbot en su proceso de ajuste fino con RLHF, después de que su grupo de evaluadores ad hoc produjera una puntuación incoherente.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.