Moderasi Konten dan Deteksi Toksisitas untuk Platform Gaming
Sebuah platform gaming membutuhkan contoh obrolan dalam game yang beracun dan tidak beracun yang dianotasi untuk melatih model moderasinya agar dapat menangkap pelecehan dan bahasa kasar tanpa terlalu banyak menandai obrolan kompetitif normal.
Client snapshot
| Industry | Gaming online dan hiburan interaktif |
|---|---|
| Region | Global, dengan kontributor dicocokkan dengan bahasa pemain utama platform |
| Engagement type | Anotasi toksisitas dan pelecehan untuk moderasi obrolan dalam game |
The challenge
Model moderasi klien yang ada kesulitan membedakan bahasa yang benar-benar berbahaya dari slang dan obrolan gaming kompetitif, menghasilkan baik pelecehan yang terlewat maupun tanda positif-palsu yang membuat pemain frustrasi.
The approach
Jwuma menugaskan anotator yang akrab dengan konvensi bahasa komunitas gaming untuk melabeli contoh obrolan terhadap taksonomi toksisitas terperinci yang membedakan pelecehan sungguhan dari obrolan kompetitif, dengan contoh yang diperselisihkan atau ambigu dieskalasi melalui tingkat peninjauan.
Results
Model moderasi klien yang dilatih ulang menunjukkan pemisahan yang lebih baik antara pelecehan sungguhan dan obrolan kompetitif normal, mengurangi baik pelanggaran yang terlewat maupun tanda positif-palsu pemain dalam set evaluasinya.
Frequently asked questions
Mengapa moderasi obrolan gaming lebih sulit daripada moderasi konten umum?
Karena komunitas gaming kompetitif menggunakan bahasa agresif dan slang yang dapat menyerupai pelecehan di luar konteks, memerlukan anotator yang akrab dengan konvensi tersebut untuk melabeli secara akurat.
Bagaimana Jwuma mengurangi positif-palsu dalam data pelatihan deteksi toksisitas?
Dengan menggunakan taksonomi terperinci yang secara eksplisit membedakan pelecehan sungguhan dari obrolan kompetitif, dengan kasus ambigu dieskalasi ke tingkat peninjauan alih-alih langsung ditandai.
Bisakah pendekatan ini mencakup beberapa judul game atau bahasa?
Ya, asalkan anotator dicocokkan dengan konvensi komunitas game spesifik dan bahasa target untuk setiap judul.
Related case studies
Data Verifikasi Wajah dan Identitas untuk Platform Mobilitas Global
Sebuah platform mobilitas dan ride-hailing global membutuhkan data wajah dan identitas yang terverifikasi di berbagai wilayah untuk memperkuat sistem verifikasi keamanan pengemudi dan penumpang, di bawah persyaratan persetujuan dan penanganan biometrik yang ketat.
Pengumpulan Data Video Egosentris untuk Program AI Robotika
Sebuah perusahaan AI robotika membutuhkan video sudut pandang orang pertama dari manusia yang melakukan tugas fisik sehari-hari, diambil secara konsisten di berbagai lingkungan dan bentuk tubuh, untuk melatih model AI berwujud agar dapat digeneralisasi di luar satu pengaturan laboratorium.
Evaluasi RLHF untuk Model AI Percakapan
Sebuah perusahaan AI percakapan membutuhkan jalur pipa evaluasi manusia yang terstruktur dan dapat berskala untuk menilai kualitas respons chatbot bagi proses penyesuaian RLHF-nya, setelah kumpulan penilai ad hoc yang ada menghasilkan penilaian yang tidak konsisten.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.