Contentmoderatie en toxiciteitsdetectie voor een gamingplatform
Een gamingplatform had geannoteerde voorbeelden van toxische en niet-toxische chat tijdens het spelen nodig om zijn moderatiemodel te trainen intimidatie en beledigend taalgebruik te herkennen zonder de gewone competitieve plagerijen te veel te markeren.
Client snapshot
| Industry | Online gaming en interactief entertainment |
|---|---|
| Region | Wereldwijd, met bijdragers afgestemd op de belangrijkste spelerstalen van het platform |
| Engagement type | Annotatie van toxiciteit en intimidatie voor moderatie van chat tijdens het spelen |
The challenge
Het bestaande moderatiemodel van de klant had moeite om echt schadelijk taalgebruik te onderscheiden van competitieve gamingstraattaal en plagerijen, wat leidde tot zowel gemiste intimidatie als valse positieven die spelers frustreerden.
The approach
Jwuma wees annotators toe die vertrouwd zijn met de taalconventies van de gamingcommunity om chatvoorbeelden te labelen volgens een gedetailleerde toxiciteitstaxonomie die echte intimidatie onderscheidt van competitieve plagerijen, waarbij betwiste of grensgevallen via een beoordelingsniveau escaleerden.
Results
Het opnieuw getrainde moderatiemodel van de klant liet een betere scheiding zien tussen echte intimidatie en gewone competitieve chat, waardoor in de evaluatieset zowel gemiste overtredingen als valse positieve markeringen van spelers afnamen.
Frequently asked questions
Waarom is moderatie van gamechat moeilijker dan algemene contentmoderatie?
Omdat competitieve gamingcommunity's agressief taalgebruik en straattaal gebruiken die buiten context op intimidatie kunnen lijken, waardoor annotators nodig zijn die met die conventies vertrouwd zijn om nauwkeurig te labelen.
Hoe beperkt Jwuma valse positieven in trainingsdata voor toxiciteitsdetectie?
Door een gedetailleerde taxonomie te gebruiken die echte intimidatie uitdrukkelijk onderscheidt van competitieve plagerijen, waarbij dubbelzinnige gevallen naar een beoordelingsniveau escaleren in plaats van standaard te worden gemarkeerd.
Kan deze aanpak meerdere gametitels of talen dekken?
Ja, mits annotators worden afgestemd op de conventies van de community van het specifieke spel en de doeltalen van elke titel.
Related case studies
Gezichts- en identiteitsverificatiedata voor een wereldwijd mobiliteitsplatform
Een wereldwijd mobiliteits- en taxiplatform had geverifieerde gezichts- en identiteitsdata uit meerdere regio's nodig om een veiligheidsverificatiesysteem voor chauffeurs en passagiers te versterken, onder strikte eisen voor toestemming en omgang met biometrische gegevens.
Verzameling van egocentrische videodata voor een robotica-AI-programma
Een robotica-AI-bedrijf had video vanuit eerstepersoonsperspectief nodig van mensen die alledaagse fysieke taken uitvoeren, consistent vastgelegd in uiteenlopende omgevingen en met verschillende lichaamstypen, om een belichaamd AI-model te trainen te generaliseren voorbij één laboratoriumsituatie.
RLHF-beoordeling voor een conversationeel AI-model
Een bedrijf voor conversationele AI had een gestructureerde, schaalbare menselijke beoordelingspijplijn nodig om de kwaliteit van chatbotantwoorden te beoordelen voor zijn RLHF-finetuningproces, nadat zijn bestaande ad-hocgroep beoordelaars inconsistente scores had opgeleverd.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.