Moderacja treści i wykrywanie toksyczności dla platformy gier
Platforma gier potrzebowała opisanych przykładów toksycznych i nietoksycznych wiadomości na czacie w grze, aby wytrenować swój model moderacji do wychwytywania nękania i obraźliwego języka bez nadmiernego oznaczania zwykłych żartów w rywalizacji.
Client snapshot
| Industry | Gry online i rozrywka interaktywna |
|---|---|
| Region | Globalnie, ze współpracownikami dobranymi do głównych języków graczy platformy |
| Engagement type | Adnotacja toksyczności i nękania na potrzeby moderacji czatu w grze |
The challenge
Dotychczasowy model moderacji klienta miał trudności z odróżnieniem naprawdę szkodliwego języka od slangu i żartów w rywalizacji w grach, co powodowało zarówno pominięte nękanie, jak i fałszywe alarmy frustrujące graczy.
The approach
Jwuma przydzieliła adnotatorów obeznanych z konwencjami językowymi społeczności graczy do oznaczania przykładów czatu według szczegółowej taksonomii toksyczności odróżniającej prawdziwe nękanie od żartów w rywalizacji, a sporne lub graniczne przykłady eskalowała przez poziom weryfikacji.
Results
Ponownie wytrenowany model moderacji klienta lepiej oddzielał prawdziwe nękanie od zwykłego czatu w rywalizacji, zmniejszając w jego zbiorze oceny zarówno liczbę pominiętych naruszeń, jak i fałszywych oznaczeń graczy.
Frequently asked questions
Dlaczego moderacja czatu w grach jest trudniejsza niż ogólna moderacja treści?
Ponieważ rywalizujące społeczności graczy używają agresywnego języka i slangu, który poza kontekstem może przypominać nękanie, co wymaga adnotatorów znających te konwencje, aby oznaczali dokładnie.
Jak Jwuma ogranicza fałszywe alarmy w danych treningowych do wykrywania toksyczności?
Stosując szczegółową taksonomię, która wyraźnie odróżnia prawdziwe nękanie od żartów w rywalizacji, a niejednoznaczne przypadki eskalując do poziomu weryfikacji, zamiast domyślnie oznaczać.
Czy to podejście może objąć wiele tytułów gier lub języków?
Tak, pod warunkiem że adnotatorzy są dobrani do konwencji społeczności konkretnej gry i języków docelowych każdego tytułu.
Related case studies
Dane do weryfikacji twarzy i tożsamości dla globalnej platformy mobilności
Globalna platforma mobilności i przewozu osób potrzebowała zweryfikowanych danych twarzy i tożsamości z wielu regionów, aby wzmocnić system weryfikacji bezpieczeństwa kierowców i pasażerów, przy ścisłych wymogach dotyczących zgody i postępowania z danymi biometrycznymi.
Zbieranie egocentrycznych danych wideo dla programu AI w robotyce
Firma zajmująca się AI w robotyce potrzebowała wideo z perspektywy pierwszej osoby przedstawiającego ludzi wykonujących codzienne zadania fizyczne, rejestrowanego spójnie w zróżnicowanych środowiskach i dla różnych typów sylwetki, aby wytrenować model ucieleśnionej AI tak, by uogólniał się poza jedno środowisko laboratoryjne.
Ocena RLHF dla modelu konwersacyjnej AI
Firma zajmująca się konwersacyjną AI potrzebowała ustrukturyzowanego, skalowalnego procesu oceny przez ludzi, aby oceniać jakość odpowiedzi chatbota w procesie dostrajania RLHF, po tym jak jej dotychczasowa doraźna pula oceniających dawała niespójne wyniki.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.