Klasyfikacja szkodliwych treści w zakresie zaufania i bezpieczeństwa dla platformy mediów społecznościowych
Platforma mediów społecznościowych potrzebowała spójnej klasyfikacji szkodliwych treści w kilku językach, aby wytrenować swój model zaufania i bezpieczeństwa, po tym jak nierówny zasięg sprawił, że część jej rynków nieanglojęzycznych była znacznie niedomoderowana.
Client snapshot
| Industry | Media społecznościowe i platformy treści |
|---|---|
| Region | Globalnie, ze skupieniem na najszybciej rosnących rynkach nieanglojęzycznych klienta |
| Engagement type | Wielojęzyczna klasyfikacja szkodliwych treści na potrzeby zaufania i bezpieczeństwa |
The challenge
Model moderacji klienta działał dobrze po angielsku, ale miał wyraźnie słabszy zasięg na kilku z jego najszybciej rosnących rynków, gdzie szkodliwe treści były zarówno trudniejsze do wykrycia, jak i w razie pominięcia niosły nieproporcjonalnie duże ryzyko dla platformy.
The approach
Jwuma przydzieliła adnotatorów będących native speakerami w priorytetowych językach klienta do klasyfikowania treści według szczegółowej taksonomii szkód, z eskalacją spornych lub granicznych klasyfikacji przez poziom weryfikacji oraz kalibracją zadaniami wzorcowymi do monitorowania spójności klasyfikacji między językami.
Results
Klient rozszerzył spójną klasyfikację szkodliwych treści na rynki, które wcześniej były znacznie niedomoderowane, zamykając istotną lukę w swoim zasięgu zaufania i bezpieczeństwa.
Frequently asked questions
Dlaczego wielojęzyczna klasyfikacja szkodliwych treści jest trudniejsza niż moderacja wyłącznie po angielsku?
Ponieważ szkodliwe treści często opierają się na lokalnym slangu, kontekście kulturowym i zakodowanym języku, których model wytrenowany głównie na danych angielskich nie wychwyci niezawodnie.
Jak Jwuma utrzymuje spójność klasyfikacji w wielu językach?
Dzięki wspólnej taksonomii szkód stosowanej przez adnotatorów będących native speakerami w każdym języku, z kalibracją zadaniami wzorcowymi monitorującą spójność w całej puli adnotatorów.
Co się dzieje, gdy klasyfikacja treści jest sporna lub niejasna?
Jest eskalowana przez wielopoziomową drabinę weryfikacji Jwuma, zamiast opierać się na osądzie jednego adnotatora, ze względu na ryzyko dla platformy związane z błędną decyzją.
Related case studies
Dane do weryfikacji twarzy i tożsamości dla globalnej platformy mobilności
Globalna platforma mobilności i przewozu osób potrzebowała zweryfikowanych danych twarzy i tożsamości z wielu regionów, aby wzmocnić system weryfikacji bezpieczeństwa kierowców i pasażerów, przy ścisłych wymogach dotyczących zgody i postępowania z danymi biometrycznymi.
Zbieranie egocentrycznych danych wideo dla programu AI w robotyce
Firma zajmująca się AI w robotyce potrzebowała wideo z perspektywy pierwszej osoby przedstawiającego ludzi wykonujących codzienne zadania fizyczne, rejestrowanego spójnie w zróżnicowanych środowiskach i dla różnych typów sylwetki, aby wytrenować model ucieleśnionej AI tak, by uogólniał się poza jedno środowisko laboratoryjne.
Ocena RLHF dla modelu konwersacyjnej AI
Firma zajmująca się konwersacyjną AI potrzebowała ustrukturyzowanego, skalowalnego procesu oceny przez ludzi, aby oceniać jakość odpowiedzi chatbota w procesie dostrajania RLHF, po tym jak jej dotychczasowa doraźna pula oceniających dawała niespójne wyniki.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.