Classification de contenus nuisibles pour la confiance et la sécurité d'une plateforme de réseau social
Une plateforme de réseau social avait besoin de classer de façon cohérente les contenus nuisibles dans plusieurs langues pour entraîner son modèle de confiance et de sécurité, après qu'une couverture inégale eut laissé certains de ses marchés non anglophones nettement sous-modérés.
Client snapshot
| Industry | Réseaux sociaux et plateformes de contenu |
|---|---|
| Region | Mondial, concentré sur les marchés non anglophones à la croissance la plus rapide du client |
| Engagement type | Classification multilingue de contenus nuisibles pour la confiance et la sécurité |
The challenge
Le modèle de modération du client était performant en anglais mais sa couverture était sensiblement plus faible sur plusieurs de ses marchés à la croissance la plus rapide, où les contenus nuisibles étaient à la fois plus difficiles à détecter et, lorsqu'ils étaient manqués, porteurs d'un risque disproportionné pour la plateforme.
The approach
Jwuma a affecté des annotateurs locuteurs natifs dans les langues prioritaires du client pour classer les contenus selon une taxonomie des préjudices détaillée, les classifications contestées ou limites remontant par un niveau de revue et un calibrage par tâches étalon servant à surveiller la cohérence de la classification d'une langue à l'autre.
Results
Le client a étendu une couverture cohérente de classification des contenus nuisibles à des marchés jusque-là nettement sous-modérés, comblant un écart important dans sa couverture de confiance et de sécurité.
Frequently asked questions
Pourquoi la classification multilingue de contenus nuisibles est-elle plus difficile que la modération en anglais seul ?
Parce que les contenus nuisibles reposent souvent sur l'argot local, le contexte culturel et un langage codé qu'un modèle entraîné principalement sur des données en anglais ne détectera pas de façon fiable.
Comment Jwuma maintient-elle la cohérence de la classification dans de nombreuses langues ?
Grâce à une taxonomie des préjudices commune appliquée par des annotateurs locuteurs natifs dans chaque langue, un calibrage par tâches étalon surveillant la cohérence sur l'ensemble du groupe d'annotateurs.
Que se passe-t-il lorsqu'une classification de contenu est contestée ou peu claire ?
Elle remonte par l'échelle de revue à plusieurs niveaux de Jwuma plutôt que de reposer sur le jugement d'un seul annotateur, compte tenu du risque qu'une décision erronée fait peser sur la plateforme.
Related case studies
Données de vérification faciale et d'identité pour une plateforme mondiale de mobilité
Une plateforme mondiale de mobilité et de VTC avait besoin de données faciales et d'identité vérifiées dans plusieurs régions pour renforcer un système de vérification de sécurité des conducteurs et des passagers, dans le respect d'exigences strictes de consentement et de traitement des données biométriques.
Collecte de données vidéo égocentriques pour un programme d'IA en robotique
Une entreprise d'IA en robotique avait besoin de vidéos à la première personne d'humains exécutant des tâches physiques quotidiennes, captées de façon cohérente dans des environnements et des morphologies variés, pour entraîner un modèle d'IA incarnée à généraliser au-delà d'un seul cadre de laboratoire.
Évaluation RLHF pour un modèle d'IA conversationnelle
Une entreprise d'IA conversationnelle avait besoin d'un pipeline d'évaluation humaine structuré et évolutif pour noter la qualité des réponses de son chatbot dans son processus d'affinage RLHF, après que son groupe d'évaluateurs ad hoc eut produit des notations incohérentes.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.