একটি গেমিং প্ল্যাটফর্মের জন্য কন্টেন্ট মডারেশন ও টক্সিসিটি ডিটেকশন
একটি গেমিং প্ল্যাটফর্মের স্বাভাবিক প্রতিযোগিতামূলক রসিকতাকে অতিরিক্ত ফ্ল্যাগ না করে হ্যারাসমেন্ট ও অপমানজনক ভাষা ধরতে তার মডারেশন মডেলকে প্রশিক্ষণ দিতে বিষাক্ত ও অ-বিষাক্ত ইন-গেম চ্যাটের অ্যানোটেটেড উদাহরণ প্রয়োজন ছিল।
Client snapshot
| Industry | অনলাইন গেমিং ও ইন্টারঅ্যাক্টিভ বিনোদন |
|---|---|
| Region | গ্লোবাল, প্ল্যাটফর্মের মূল খেলোয়াড় ভাষার সাথে কন্ট্রিবিউটর মিলানো |
| Engagement type | ইন-গেম চ্যাট মডারেশনের জন্য টক্সিসিটি ও হ্যারাসমেন্ট অ্যানোটেশন |
The challenge
ক্লায়েন্টের বিদ্যমান মডারেশন মডেল প্রতিযোগিতামূলক গেমিং স্ল্যাং ও রসিকতা থেকে সত্যিকারের ক্ষতিকর ভাষা আলাদা করতে কষ্ট পাচ্ছিল, যা মিস করা হ্যারাসমেন্ট এবং খেলোয়াড়দের হতাশ করা ভুল-পজিটিভ ফ্ল্যাগ দুটোই তৈরি করছিল।
The approach
Jwuma গেমিং কমিউনিটি ভাষার প্রচলন সম্পর্কে পরিচিত অ্যানোটেটর নিযুক্ত করেছিল সত্যিকারের হ্যারাসমেন্টকে প্রতিযোগিতামূলক রসিকতা থেকে আলাদা করে এমন একটি বিস্তারিত টক্সিসিটি ট্যাক্সোনমির বিপরীতে চ্যাট উদাহরণ লেবেল করতে, বিতর্কিত বা সীমারেখার উদাহরণ একটি পর্যালোচনা স্তরের মাধ্যমে এসকেলেট করেসহ।
Results
ক্লায়েন্টের পুনরায় প্রশিক্ষিত মডারেশন মডেল সত্যিকারের হ্যারাসমেন্ট ও স্বাভাবিক প্রতিযোগিতামূলক চ্যাটের মধ্যে উন্নত বিভাজন দেখিয়েছিল, তার মূল্যায়ন সেটে মিস করা লঙ্ঘন এবং ভুল-পজিটিভ খেলোয়াড় ফ্ল্যাগ দুটোই কমিয়েছিল।
Frequently asked questions
গেমিং চ্যাট মডারেশন সাধারণ কন্টেন্ট মডারেশনের চেয়ে কঠিন কেন?
কারণ প্রতিযোগিতামূলক গেমিং কমিউনিটি আক্রমণাত্মক ভাষা ও স্ল্যাং ব্যবহার করে যা প্রসঙ্গের বাইরে হ্যারাসমেন্টের মতো দেখাতে পারে, যার জন্য সঠিকভাবে লেবেল করতে সেই প্রচলন সম্পর্কে পরিচিত অ্যানোটেটর প্রয়োজন।
টক্সিসিটি ডিটেকশন প্রশিক্ষণ ডেটায় Jwuma কীভাবে ভুল-পজিটিভ কমায়?
একটি বিস্তারিত ট্যাক্সোনমি ব্যবহার করে যা স্পষ্টভাবে সত্যিকারের হ্যারাসমেন্টকে প্রতিযোগিতামূলক রসিকতা থেকে আলাদা করে, অস্পষ্ট মামলা ডিফল্টভাবে ফ্ল্যাগ করার পরিবর্তে একটি পর্যালোচনা স্তরে এসকেলেট করে।
এই পদ্ধতি কি একাধিক গেম টাইটেল বা ভাষা কভার করতে পারে?
হ্যাঁ, যদি অ্যানোটেটরদের প্রতিটি টাইটেলের জন্য নির্দিষ্ট গেমের কমিউনিটি প্রচলন ও লক্ষ্য ভাষার সাথে মেলানো হয়।
Related case studies
একটি বৈশ্বিক মোবিলিটি প্ল্যাটফর্মের জন্য মুখ ও পরিচয় যাচাইকরণ ডেটা
একটি বৈশ্বিক মোবিলিটি ও রাইড-হেইলিং প্ল্যাটফর্মের কঠোর সম্মতি ও বায়োমেট্রিক-পরিচালনার প্রয়োজনীয়তার অধীনে একটি চালক ও যাত্রী নিরাপত্তা যাচাইকরণ ব্যবস্থা শক্তিশালী করতে একাধিক অঞ্চল জুড়ে যাচাইকৃত মুখ ও পরিচয় ডেটা প্রয়োজন ছিল।
একটি রোবোটিক্স AI প্রোগ্রামের জন্য ইগোসেন্ট্রিক ভিডিও ডেটা সংগ্রহ
একটি রোবোটিক্স AI কোম্পানির একটি মূর্ত AI মডেলকে একক ল্যাব সেটিংয়ের বাইরে সাধারণীকরণ করতে প্রশিক্ষণ দিতে বিভিন্ন পরিবেশ ও শরীরের ধরন জুড়ে ধারাবাহিকভাবে ধারণকৃত মানুষের দৈনন্দিন শারীরিক কাজ সম্পাদনের প্রথম-পুরুষ ভিডিও প্রয়োজন ছিল।
একটি কথোপকথনমূলক AI মডেলের জন্য RLHF মূল্যায়ন
একটি কথোপকথনমূলক AI কোম্পানির তাদের RLHF সূক্ষ্ম-সমন্বয় প্রক্রিয়ার জন্য চ্যাটবট প্রতিক্রিয়ার গুণমান রেট করতে একটি কাঠামোবদ্ধ, স্কেলযোগ্য মানব মূল্যায়ন পাইপলাইন প্রয়োজন ছিল, তাদের বিদ্যমান অ্যাড হক রেটার পুল অসামঞ্জস্যপূর্ণ স্কোরিং তৈরি করার পরে।
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.