Inhaltsmoderation und Toxizitätserkennung für eine Gaming-Plattform
Eine Gaming-Plattform benötigte annotierte Beispiele für toxischen und nicht toxischen Ingame-Chat, um ihr Moderationsmodell darauf zu trainieren, Belästigung und beleidigende Sprache zu erkennen, ohne normales wettbewerbsorientiertes Geplänkel zu oft zu markieren.
Client snapshot
| Industry | Online-Gaming und interaktive Unterhaltung |
|---|---|
| Region | Global, mit Contributors, die zu den wichtigsten Spielersprachen der Plattform passen |
| Engagement type | Annotation von Toxizität und Belästigung für die Moderation des Ingame-Chats |
The challenge
Das bestehende Moderationsmodell des Kunden tat sich schwer, wirklich schädliche Sprache von wettbewerbsorientiertem Gaming-Slang und Geplänkel zu unterscheiden, und erzeugte sowohl übersehene Belästigung als auch Fehlalarme, die Spieler frustrierten.
The approach
Jwuma wies Annotatoren zu, die mit den Sprachkonventionen der Gaming-Community vertraut waren und Chatbeispiele anhand einer detaillierten Toxizitätstaxonomie labelten, die echte Belästigung von wettbewerbsorientiertem Geplänkel unterscheidet. Strittige oder grenzwertige Beispiele wurden über eine Prüfstufe eskaliert.
Results
Das neu trainierte Moderationsmodell des Kunden zeigte in seinem Evaluierungsdatensatz eine bessere Trennung zwischen echter Belästigung und normalem wettbewerbsorientiertem Chat und verringerte sowohl übersehene Verstöße als auch Fehlalarme gegen Spieler.
Frequently asked questions
Warum ist die Moderation von Gaming-Chats schwieriger als allgemeine Inhaltsmoderation?
Weil wettbewerbsorientierte Gaming-Communities aggressive Sprache und Slang verwenden, die aus dem Kontext gerissen wie Belästigung wirken können, sodass Annotatoren, die mit diesen Konventionen vertraut sind, nötig sind, um genau zu labeln.
Wie verringert Jwuma Fehlalarme in Trainingsdaten zur Toxizitätserkennung?
Durch eine detaillierte Taxonomie, die echte Belästigung ausdrücklich von wettbewerbsorientiertem Geplänkel unterscheidet, wobei mehrdeutige Fälle an eine Prüfstufe eskaliert werden, statt standardmäßig markiert zu werden.
Kann dieser Ansatz mehrere Spieletitel oder Sprachen abdecken?
Ja, sofern die Annotatoren für jeden Titel auf die Community-Konventionen des jeweiligen Spiels und die Zielsprachen abgestimmt werden.
Related case studies
Gesichts- und Identitätsverifizierungsdaten für eine globale Mobilitätsplattform
Eine globale Mobilitäts- und Ride-Hailing-Plattform benötigte verifizierte Gesichts- und Identitätsdaten aus mehreren Regionen, um ein Verifizierungssystem für die Sicherheit von Fahrern und Fahrgästen zu stärken, unter strengen Anforderungen an Einwilligung und Umgang mit biometrischen Daten.
Erhebung egozentrischer Videodaten für ein Robotik-KI-Programm
Ein Robotik-KI-Unternehmen benötigte Videos aus der Ich-Perspektive von Menschen, die alltägliche physische Aufgaben ausführen, einheitlich erfasst in vielfältigen Umgebungen und mit unterschiedlichen Körpertypen, um ein Embodied-AI-Modell so zu trainieren, dass es über eine einzelne Laborumgebung hinaus generalisiert.
RLHF-Evaluierung für ein Konversations-KI-Modell
Ein Unternehmen für Konversations-KI benötigte eine strukturierte, skalierbare menschliche Evaluierungs-Pipeline, um die Antwortqualität seiner Chatbots für den RLHF-Feinabstimmungsprozess zu bewerten, nachdem sein bisheriger Ad-hoc-Rater-Pool uneinheitliche Bewertungen geliefert hatte.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.