Klasifikasi Konten Berbahaya Trust and Safety untuk Platform Media Sosial
Sebuah platform media sosial membutuhkan konten berbahaya yang diklasifikasikan secara konsisten di beberapa bahasa untuk melatih model trust and safety-nya, setelah cakupan yang tidak merata menyebabkan beberapa pasar non-Inggrisnya secara signifikan kurang termoderasi.
Client snapshot
| Industry | Media sosial dan platform konten |
|---|---|
| Region | Global, terkonsentrasi di pasar non-Inggris klien yang tumbuh paling cepat |
| Engagement type | Klasifikasi konten berbahaya multibahasa untuk trust and safety |
The challenge
Model moderasi klien berkinerja baik dalam bahasa Inggris tetapi memiliki cakupan yang jauh lebih lemah di beberapa pasar yang tumbuh paling cepat, di mana konten berbahaya lebih sulit dideteksi dan, saat terlewat, membawa risiko platform yang besar.
The approach
Jwuma menugaskan anotator penutur asli di seluruh bahasa prioritas klien untuk mengklasifikasikan konten terhadap taksonomi bahaya terperinci, dengan klasifikasi yang diperselisihkan atau berada di garis batas dieskalasi melalui tingkat peninjauan dan kalibrasi tugas emas digunakan untuk memantau konsistensi klasifikasi di berbagai bahasa.
Results
Klien memperluas cakupan klasifikasi konten berbahaya yang konsisten ke pasar yang sebelumnya secara signifikan kurang termoderasi, menutup kesenjangan yang berarti dalam cakupan trust and safety-nya.
Frequently asked questions
Mengapa klasifikasi konten berbahaya multibahasa lebih sulit daripada moderasi khusus bahasa Inggris?
Karena konten berbahaya sering mengandalkan slang lokal, konteks budaya, dan bahasa berkode yang tidak akan ditangkap secara andal oleh model yang dilatih terutama pada data bahasa Inggris.
Bagaimana Jwuma menjaga konsistensi klasifikasi di banyak bahasa?
Melalui taksonomi bahaya bersama yang diterapkan oleh anotator penutur asli di setiap bahasa, dengan kalibrasi tugas emas memantau konsistensi di seluruh kumpulan anotator.
Apa yang terjadi ketika klasifikasi konten diperselisihkan atau tidak jelas?
Ini dieskalasi melalui tangga peninjauan multi-tingkat Jwuma alih-alih bergantung pada penilaian seorang anotator tunggal, mengingat risiko platform dari keputusan yang salah.
Related case studies
Data Verifikasi Wajah dan Identitas untuk Platform Mobilitas Global
Sebuah platform mobilitas dan ride-hailing global membutuhkan data wajah dan identitas yang terverifikasi di berbagai wilayah untuk memperkuat sistem verifikasi keamanan pengemudi dan penumpang, di bawah persyaratan persetujuan dan penanganan biometrik yang ketat.
Pengumpulan Data Video Egosentris untuk Program AI Robotika
Sebuah perusahaan AI robotika membutuhkan video sudut pandang orang pertama dari manusia yang melakukan tugas fisik sehari-hari, diambil secara konsisten di berbagai lingkungan dan bentuk tubuh, untuk melatih model AI berwujud agar dapat digeneralisasi di luar satu pengaturan laboratorium.
Evaluasi RLHF untuk Model AI Percakapan
Sebuah perusahaan AI percakapan membutuhkan jalur pipa evaluasi manusia yang terstruktur dan dapat berskala untuk menilai kualitas respons chatbot bagi proses penyesuaian RLHF-nya, setelah kumpulan penilai ad hoc yang ada menghasilkan penilaian yang tidak konsisten.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.