O'yin platformasi uchun kontent moderatsiyasi va toksiklikni aniqlash
O'yin platformasiga moderatsiya modelini zo'ravonlik va haqoratli tilni aniqlashga, ammo oddiy raqobatbardosh hazillarni ortiqcha belgilamaslikka o'rgatish uchun o'yin ichidagi chatning toksik va toksik bo'lmagan annotatsiya qilingan namunalari kerak edi.
Client snapshot
| Industry | Onlayn o'yinlar va interaktiv o'yin-kulgi |
|---|---|
| Region | Global, hissadorlar platformaning asosiy o'yinchi tillariga moslashtirilgan |
| Engagement type | O'yin ichidagi chat moderatsiyasi uchun toksiklik va zo'ravonlik annotatsiyasi |
The challenge
Mijozning mavjud moderatsiya modeli haqiqatan zararli tilni raqobatbardosh o'yin jargoni va hazillaridan ajratishda qiynalardi, bu ham o'tkazib yuborilgan zo'ravonlikni, ham o'yinchilarni bezovta qiluvchi yolg'on belgilashlarni keltirib chiqarardi.
The approach
Jwuma o'yin hamjamiyati til qoidalarini biladigan annotatorlarni chat namunalarini haqiqiy zo'ravonlikni raqobatbardosh hazildan ajratuvchi batafsil toksiklik taksonomiyasi bo'yicha belgilash uchun tayinladi, bahsli yoki chegaradagi namunalar tekshiruv bosqichiga yuqoriga o'tkazildi.
Results
Mijozning qayta o'qitilgan moderatsiya modeli haqiqiy zo'ravonlik va oddiy raqobatbardosh chat orasidagi farqlashni yaxshiladi, baholash to'plamida o'tkazib yuborilgan buzilishlar ham, o'yinchilarning yolg'on belgilashlari ham kamaydi.
Frequently asked questions
O'yin chati moderatsiyasi umumiy kontent moderatsiyasidan nima uchun qiyinroq?
Chunki raqobatbardosh o'yin hamjamiyatlari kontekstdan tashqarida zo'ravonlikka o'xshab ketishi mumkin bo'lgan tajovuzkor til va jargondan foydalanadi, bu aniq belgilash uchun shu qoidalarni biladigan annotatorlarni talab qiladi.
Jwuma toksiklikni aniqlash o'qitish ma'lumotlarida yolg'on belgilashlarni qanday kamaytiradi?
Haqiqiy zo'ravonlikni raqobatbardosh hazildan aniq ajratuvchi batafsil taksonomiyadan foydalanib, noaniq holatlarni avtomatik belgilash o'rniga tekshiruv bosqichiga yuqoriga o'tkazish orqali.
Bu yondashuv bir nechta o'yin nomi yoki tilni qamrab ola oladimi?
Ha, annotatorlar har bir nom uchun o'sha o'yinning hamjamiyat qoidalari va maqsadli tillariga moslashtirilsa.
Related case studies
Global mobillik platformasi uchun yuz va shaxsni tasdiqlash ma'lumotlari
Global mobillik va taksi chaqirish platformasiga haydovchi va yo'lovchi xavfsizligini tasdiqlash tizimini kuchaytirish uchun qat'iy rozilik va biometrik ma'lumotlar bilan ishlash talablari ostida bir nechta mintaqadan tasdiqlangan yuz va shaxs ma'lumotlari kerak edi.
Robototexnika AI dasturi uchun egotsentrik video ma'lumotlarini yig'ish
Robototexnika AI kompaniyasiga mujassam AI modelini yagona laboratoriya sharoitidan tashqariga umumlashtirishga o'rgatish uchun xilma-xil muhit va tana turlarida izchil olingan, odamlarning kundalik jismoniy vazifalarni bajarayotgan birinchi shaxs videosi kerak edi.
Suhbatdosh AI modeli uchun RLHF baholash
Suhbatdosh AI kompaniyasiga mavjud tasodifiy baholovchilar guruhi izchil bo'lmagan baholar bergach, RLHF nozik sozlash jarayoni uchun chatbot javoblari sifatini baholaydigan tuzilgan, kengayadigan inson baholash jarayoni kerak bo'ldi.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.