Ijtimoiy tarmoq platformasi uchun ishonch va xavfsizlik bo'yicha zararli kontentni tasniflash
Ijtimoiy tarmoq platformasiga notekis qamrov tufayli ingliz tilida so'zlashmaydigan ba'zi bozorlari sezilarli darajada yetarli moderatsiya qilinmagach, ishonch va xavfsizlik modelini o'qitish uchun bir nechta tilda izchil tasniflangan zararli kontent kerak edi.
Client snapshot
| Industry | Ijtimoiy tarmoqlar va kontent platformalari |
|---|---|
| Region | Global, mijozning eng tez o'sayotgan ingliz tilida so'zlashmaydigan bozorlarida jamlangan |
| Engagement type | Ishonch va xavfsizlik uchun ko'p tilli zararli kontentni tasniflash |
The challenge
Mijozning moderatsiya modeli ingliz tilida yaxshi ishladi, ammo eng tez o'sayotgan bir nechta bozorida sezilarli darajada zaifroq qamrovga ega edi, u yerda zararli kontentni aniqlash ham qiyinroq edi va o'tkazib yuborilganda platforma uchun nomutanosib xavf tug'dirardi.
The approach
Jwuma mijozning ustuvor tillari bo'yicha ona so'zlashuvchi annotatorlarni kontentni batafsil zarar taksonomiyasi bo'yicha tasniflash uchun tayinladi, bahsli yoki chegaradagi tasniflar tekshiruv bosqichiga yuqoriga o'tkazildi, tillar bo'yicha tasnif izchilligini kuzatish uchun esa oltin vazifalar bilan kalibrlashdan foydalanildi.
Results
Mijoz izchil zararli kontent tasnifi qamrovini ilgari sezilarli darajada yetarli moderatsiya qilinmagan bozorlarga kengaytirdi va ishonch hamda xavfsizlik qamrovidagi sezilarli bo'shliqni yopdi.
Frequently asked questions
Ko'p tilli zararli kontentni tasniflash faqat inglizcha moderatsiyadan nima uchun qiyinroq?
Chunki zararli kontent ko'pincha mahalliy jargon, madaniy kontekst va yashirin tilga tayanadi, asosan ingliz ma'lumotlarida o'qitilgan model buni ishonchli aniqlay olmaydi.
Jwuma ko'plab tillarda tasnif izchilligini qanday saqlaydi?
Har bir tilda ona so'zlashuvchi annotatorlar qo'llaydigan umumiy zarar taksonomiyasi orqali, oltin vazifalar bilan kalibrlash esa butun annotatorlar guruhi bo'ylab izchillikni kuzatadi.
Kontent tasnifi bahsli yoki noaniq bo'lsa nima bo'ladi?
U noto'g'ri qarorning platforma uchun xavfi sababli bitta annotator mulohazasiga tayanmasdan, Jwuma'ning ko'p bosqichli tekshiruv zinapoyasi orqali yuqoriga o'tkaziladi.
Related case studies
Global mobillik platformasi uchun yuz va shaxsni tasdiqlash ma'lumotlari
Global mobillik va taksi chaqirish platformasiga haydovchi va yo'lovchi xavfsizligini tasdiqlash tizimini kuchaytirish uchun qat'iy rozilik va biometrik ma'lumotlar bilan ishlash talablari ostida bir nechta mintaqadan tasdiqlangan yuz va shaxs ma'lumotlari kerak edi.
Robototexnika AI dasturi uchun egotsentrik video ma'lumotlarini yig'ish
Robototexnika AI kompaniyasiga mujassam AI modelini yagona laboratoriya sharoitidan tashqariga umumlashtirishga o'rgatish uchun xilma-xil muhit va tana turlarida izchil olingan, odamlarning kundalik jismoniy vazifalarni bajarayotgan birinchi shaxs videosi kerak edi.
Suhbatdosh AI modeli uchun RLHF baholash
Suhbatdosh AI kompaniyasiga mavjud tasodifiy baholovchilar guruhi izchil bo'lmagan baholar bergach, RLHF nozik sozlash jarayoni uchun chatbot javoblari sifatini baholaydigan tuzilgan, kengayadigan inson baholash jarayoni kerak bo'ldi.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.