Bir Oyun Platformu için İçerik Moderasyonu ve Toksisite Tespiti
Bir oyun platformu, moderasyon modelini normal rekabetçi şakaları gereğinden fazla işaretlemeden tacizi ve hakaret içeren dili yakalayacak şekilde eğitmek için oyun içi sohbetin toksik ve toksik olmayan etiketlenmiş örneklerine ihtiyaç duyuyordu.
Client snapshot
| Industry | Çevrimiçi oyun ve etkileşimli eğlence |
|---|---|
| Region | Küresel; katkıda bulunanlar platformun birincil oyuncu dillerine göre eşleştirilmiş |
| Engagement type | Oyun içi sohbet moderasyonu için toksisite ve taciz etiketleme |
The challenge
Müşterinin mevcut moderasyon modeli gerçekten zararlı dili rekabetçi oyun argosundan ve şakalarından ayırmakta zorlanıyordu; bu hem kaçırılan tacizlere hem de oyuncuları hayal kırıklığına uğratan yanlış pozitif işaretlere yol açıyordu.
The approach
Jwuma, oyun topluluğunun dil kurallarına aşina etiketleyiciler atayarak sohbet örneklerini gerçek tacizi rekabetçi şakadan ayıran ayrıntılı bir toksisite sınıflandırmasına göre etiketletti; itiraz edilen veya sınırdaki örnekler bir inceleme kademesinden yükseltildi.
Results
Müşterinin yeniden eğitilen moderasyon modeli, gerçek taciz ile normal rekabetçi sohbet arasında daha iyi ayrım gösterdi ve değerlendirme setinde hem kaçırılan ihlalleri hem de yanlış pozitif oyuncu işaretlerini azalttı.
Frequently asked questions
Oyun sohbeti moderasyonu neden genel içerik moderasyonundan daha zordur?
Çünkü rekabetçi oyun toplulukları, bağlamdan koparıldığında tacize benzeyebilen agresif dil ve argo kullanır; doğru etiketlemek için bu kurallara aşina etiketleyiciler gerekir.
Jwuma toksisite tespiti eğitim verisinde yanlış pozitifleri nasıl azaltır?
Gerçek tacizi rekabetçi şakadan açıkça ayıran ayrıntılı bir sınıflandırma kullanarak; belirsiz durumlar varsayılan olarak işaretlenmek yerine bir inceleme kademesine yükseltilir.
Bu yaklaşım birden çok oyun başlığını veya dili kapsayabilir mi?
Evet, etiketleyiciler her başlık için o oyunun topluluk kurallarına ve hedef dillerine göre eşleştirilirse.
Related case studies
Küresel Bir Mobilite Platformu için Yüz ve Kimlik Doğrulama Verisi
Küresel bir mobilite ve araç çağırma platformu, sıkı onay ve biyometrik veri işleme gereklilikleri altında bir sürücü ve yolcu güvenlik doğrulama sistemini güçlendirmek için birden çok bölgeden doğrulanmış yüz ve kimlik verisine ihtiyaç duyuyordu.
Bir Robotik Yapay Zeka Programı için Egosentrik Video Verisi Toplama
Bir robotik yapay zeka şirketi, bedenlenmiş bir yapay zeka modelini tek bir laboratuvar ortamının ötesine genelleyecek şekilde eğitmek için, çeşitli ortamlarda ve vücut tiplerinde tutarlı biçimde yakalanmış, insanların günlük fiziksel görevleri yapışını gösteren birinci şahıs videosuna ihtiyaç duyuyordu.
Konuşmaya Dayalı Bir Yapay Zeka Modeli için RLHF Değerlendirmesi
Konuşmaya dayalı bir yapay zeka şirketi, mevcut geçici puanlayıcı havuzu tutarsız puanlama ürettikten sonra, RLHF ince ayar süreci için sohbet botu yanıt kalitesini puanlayacak yapılandırılmış ve ölçeklenebilir bir insan değerlendirme hattına ihtiyaç duyuyordu.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.