Moderazione dei contenuti e rilevamento della tossicità per una piattaforma di gaming
Una piattaforma di gaming aveva bisogno di esempi annotati di chat di gioco tossiche e non tossiche per addestrare il proprio modello di moderazione a individuare molestie e linguaggio offensivo senza segnalare troppo il normale sfottò competitivo.
Client snapshot
| Industry | Gaming online e intrattenimento interattivo |
|---|---|
| Region | Globale, con contributor abbinati alle principali lingue dei giocatori della piattaforma |
| Engagement type | Annotazione di tossicità e molestie per la moderazione della chat di gioco |
The challenge
Il modello di moderazione esistente del cliente faticava a distinguere il linguaggio realmente dannoso dal gergo e dagli sfottò competitivi del gaming, producendo sia molestie non rilevate sia segnalazioni di falsi positivi che frustravano i giocatori.
The approach
Jwuma ha assegnato annotatori che conoscevano le convenzioni linguistiche della community del gaming per etichettare esempi di chat in base a una tassonomia dettagliata della tossicità che distingue le vere molestie dagli sfottò competitivi, con gli esempi contestati o borderline inoltrati tramite un livello di revisione.
Results
Il modello di moderazione riaddestrato del cliente ha mostrato una migliore separazione tra vere molestie e normale chat competitiva, riducendo nel proprio set di valutazione sia le violazioni non rilevate sia le segnalazioni di falsi positivi ai danni dei giocatori.
Frequently asked questions
Perché la moderazione delle chat di gioco è più difficile della moderazione generica dei contenuti?
Perché le community competitive del gaming usano un linguaggio aggressivo e un gergo che fuori contesto possono sembrare molestie, e servono annotatori che conoscano queste convenzioni per etichettare con accuratezza.
Come riduce Jwuma i falsi positivi nei dati di addestramento per il rilevamento della tossicità?
Usando una tassonomia dettagliata che distingue esplicitamente le vere molestie dagli sfottò competitivi, con i casi ambigui inoltrati a un livello di revisione anziché segnalati per impostazione predefinita.
Questo approccio può coprire più titoli di gioco o lingue?
Sì, purché gli annotatori siano abbinati alle convenzioni della community del singolo gioco e alle lingue di destinazione di ciascun titolo.
Related case studies
Dati di verifica facciale e dell'identità per una piattaforma di mobilità globale
Una piattaforma globale di mobilità e ride-hailing aveva bisogno di dati verificati di volti e identità in più regioni per rafforzare un sistema di verifica della sicurezza di autisti e passeggeri, nel rispetto di rigorosi requisiti di consenso e di trattamento dei dati biometrici.
Raccolta di dati video egocentrici per un programma di IA robotica
Un'azienda di IA robotica aveva bisogno di video in prima persona di persone che svolgono compiti fisici quotidiani, acquisiti in modo coerente in ambienti e con tipi di corpo diversi, per addestrare un modello di IA incarnata a generalizzare oltre un singolo ambiente di laboratorio.
Valutazione RLHF per un modello di IA conversazionale
Un'azienda di IA conversazionale aveva bisogno di una pipeline di valutazione umana strutturata e scalabile per valutare la qualità delle risposte dei chatbot nel proprio processo di messa a punto RLHF, dopo che il suo gruppo di valutatori ad hoc aveva prodotto punteggi incoerenti.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.