Modération de contenu et détection de toxicité pour une plateforme de jeu vidéo
Une plateforme de jeu vidéo avait besoin d'exemples annotés de chat en jeu toxique et non toxique pour entraîner son modèle de modération à repérer le harcèlement et le langage abusif sans signaler à l'excès les échanges compétitifs normaux.
Client snapshot
| Industry | Jeu vidéo en ligne et divertissement interactif |
|---|---|
| Region | Mondial, avec des contributeurs affectés selon les principales langues des joueurs de la plateforme |
| Engagement type | Annotation de toxicité et de harcèlement pour la modération du chat en jeu |
The challenge
Le modèle de modération existant du client peinait à distinguer le langage réellement nuisible de l'argot et des chambrages propres au jeu compétitif, ce qui entraînait à la fois du harcèlement non détecté et des signalements de faux positifs qui frustraient les joueurs.
The approach
Jwuma a affecté des annotateurs familiers des conventions de langage de la communauté des joueurs pour étiqueter des exemples de chat selon une taxonomie de toxicité détaillée distinguant le véritable harcèlement des chambrages compétitifs, les exemples contestés ou limites remontant par un niveau de revue.
Results
Le modèle de modération réentraîné du client a montré une meilleure séparation entre le véritable harcèlement et le chat compétitif normal, réduisant à la fois les infractions non détectées et les signalements de joueurs en faux positifs dans son jeu d'évaluation.
Frequently asked questions
Pourquoi la modération du chat de jeu est-elle plus difficile que la modération de contenu générale ?
Parce que les communautés de jeu compétitif emploient un langage agressif et un argot qui peuvent ressembler à du harcèlement hors contexte, ce qui exige des annotateurs familiers de ces conventions pour étiqueter avec exactitude.
Comment Jwuma réduit-elle les faux positifs dans les données d'entraînement de détection de toxicité ?
En utilisant une taxonomie détaillée qui distingue explicitement le véritable harcèlement des chambrages compétitifs, les cas ambigus remontant vers un niveau de revue plutôt que d'être signalés par défaut.
Cette approche peut-elle couvrir plusieurs titres de jeux ou plusieurs langues ?
Oui, à condition que les annotateurs soient affectés selon les conventions de la communauté propre à chaque jeu et les langues cibles de chaque titre.
Related case studies
Données de vérification faciale et d'identité pour une plateforme mondiale de mobilité
Une plateforme mondiale de mobilité et de VTC avait besoin de données faciales et d'identité vérifiées dans plusieurs régions pour renforcer un système de vérification de sécurité des conducteurs et des passagers, dans le respect d'exigences strictes de consentement et de traitement des données biométriques.
Collecte de données vidéo égocentriques pour un programme d'IA en robotique
Une entreprise d'IA en robotique avait besoin de vidéos à la première personne d'humains exécutant des tâches physiques quotidiennes, captées de façon cohérente dans des environnements et des morphologies variés, pour entraîner un modèle d'IA incarnée à généraliser au-delà d'un seul cadre de laboratoire.
Évaluation RLHF pour un modèle d'IA conversationnelle
Une entreprise d'IA conversationnelle avait besoin d'un pipeline d'évaluation humaine structuré et évolutif pour noter la qualité des réponses de son chatbot dans son processus d'affinage RLHF, après que son groupe d'évaluateurs ad hoc eut produit des notations incohérentes.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.