تصنيف المحتوى الضار للثقة والسلامة لمنصة تواصل اجتماعي
احتاجت منصة تواصل اجتماعي إلى تصنيف المحتوى الضار باتساق عبر عدة لغات لتدريب نموذج الثقة والسلامة لديها، بعد أن ترك التغطية غير المتكافئة بعض أسواقها غير الناطقة بالإنجليزية تحت إشراف ناقص بدرجة كبيرة.
Client snapshot
| Industry | وسائل التواصل الاجتماعي ومنصات المحتوى |
|---|---|
| Region | عالمي، مع التركز في أسواق العميل غير الناطقة بالإنجليزية الأسرع نموًا |
| Engagement type | تصنيف المحتوى الضار متعدد اللغات للثقة والسلامة |
The challenge
كان أداء نموذج الإشراف لدى العميل جيدًا بالإنجليزية لكن تغطيته كانت أضعف بشكل ملموس في عدة أسواق من أسرع أسواقه نموًا، حيث كان المحتوى الضار أصعب اكتشافًا، وحين يُغفل كان يحمل مخاطر غير متناسبة على المنصة.
The approach
عيّنت Jwuma مُوسِّمين من المتحدثين الأصليين في لغات العميل ذات الأولوية لتصنيف المحتوى وفق تصنيف تفصيلي للضرر، مع تصعيد التصنيفات المتنازع عليها أو الحدّية عبر مستوى مراجعة، واستخدام معايرة بالمهام الذهبية لمراقبة اتساق التصنيف عبر اللغات.
Results
وسّع العميل تغطية تصنيف المحتوى الضار المتسقة إلى أسواق كانت تخضع سابقًا لإشراف ناقص بدرجة كبيرة، ما سدّ فجوة ملموسة في تغطيته للثقة والسلامة.
Frequently asked questions
لماذا يصعب تصنيف المحتوى الضار متعدد اللغات أكثر من الإشراف بالإنجليزية فقط؟
لأن المحتوى الضار كثيرًا ما يعتمد على العامية المحلية والسياق الثقافي واللغة المشفّرة التي لن يلتقطها بموثوقية نموذج مدرَّب أساسًا على بيانات إنجليزية.
كيف تحافظ Jwuma على اتساق التصنيف عبر لغات كثيرة؟
عبر تصنيف ضرر مشترك يطبقه مُوسِّمون من المتحدثين الأصليين في كل لغة، مع معايرة بالمهام الذهبية لمراقبة الاتساق عبر مجموعة المُوسِّمين كاملة.
ماذا يحدث عندما يكون تصنيف المحتوى متنازعًا عليه أو غير واضح؟
يُصعَّد عبر سلّم المراجعة متعدد المستويات في Jwuma بدلًا من الاعتماد على حكم مُوسِّم واحد، نظرًا لمخاطر المنصة من قرار غير صحيح.
Related case studies
بيانات التحقق من الوجه والهوية لمنصة تنقّل عالمية
احتاجت منصة عالمية للتنقل وطلب السيارات إلى بيانات وجه وهوية موثَّقة في مناطق متعددة لتعزيز نظام التحقق من سلامة السائقين والركاب، في ظل متطلبات صارمة للموافقة ومعالجة البيانات البيومترية.
جمع بيانات الفيديو ذاتي المنظور (egocentric) لبرنامج ذكاء اصطناعي للروبوتات
احتاجت شركة ذكاء اصطناعي للروبوتات إلى فيديو من منظور الشخص الأول لبشر يؤدون مهامًا مادية يومية، يُلتقط باتساق عبر بيئات وأنواع أجسام متنوعة، لتدريب نموذج ذكاء اصطناعي مجسَّد على التعميم بما يتجاوز بيئة مختبر واحدة.
تقييم RLHF لنموذج ذكاء اصطناعي محادثي
احتاجت شركة ذكاء اصطناعي محادثي إلى مسار تقييم بشري منظّم وقابل للتوسع لتقدير جودة ردود روبوت الدردشة في عملية الضبط الدقيق بـ RLHF، بعد أن أنتجت مجموعة المقيّمين العشوائية لديها درجات غير متسقة.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.