Kiểm duyệt nội dung và phát hiện nội dung độc hại cho một nền tảng game
Một nền tảng game cần các ví dụ chat trong game độc hại và không độc hại được gán nhãn để huấn luyện mô hình kiểm duyệt bắt được hành vi quấy rối và ngôn ngữ lăng mạ mà không gắn cờ quá mức những lời trêu đùa cạnh tranh bình thường.
Client snapshot
| Industry | Game trực tuyến và giải trí tương tác |
|---|---|
| Region | Toàn cầu, với cộng tác viên phù hợp với các ngôn ngữ chính của người chơi trên nền tảng |
| Engagement type | Gán nhãn nội dung độc hại và quấy rối cho kiểm duyệt chat trong game |
The challenge
Mô hình kiểm duyệt hiện có của khách hàng gặp khó khăn trong việc phân biệt ngôn ngữ thực sự có hại với tiếng lóng và lời trêu đùa cạnh tranh trong game, gây ra cả việc bỏ sót quấy rối lẫn các cờ báo sai làm người chơi khó chịu.
The approach
Jwuma phân công những người gán nhãn quen thuộc với quy ước ngôn ngữ của cộng đồng game để gán nhãn các ví dụ chat theo một phân loại nội dung độc hại chi tiết phân biệt quấy rối thật với lời trêu đùa cạnh tranh, với các ví dụ bị tranh chấp hoặc ở ranh giới được chuyển lên một cấp kiểm duyệt.
Results
Mô hình kiểm duyệt được huấn luyện lại của khách hàng cho thấy sự phân tách tốt hơn giữa quấy rối thật và chat cạnh tranh bình thường, giảm cả các vi phạm bị bỏ sót lẫn các cờ báo sai đối với người chơi trong bộ đánh giá.
Frequently asked questions
Vì sao kiểm duyệt chat game khó hơn kiểm duyệt nội dung thông thường?
Vì các cộng đồng game cạnh tranh dùng ngôn ngữ mạnh và tiếng lóng có thể giống quấy rối khi tách khỏi ngữ cảnh, đòi hỏi người gán nhãn quen thuộc với các quy ước đó để gán nhãn chính xác.
Jwuma giảm cờ báo sai trong dữ liệu huấn luyện phát hiện nội dung độc hại như thế nào?
Bằng cách dùng một phân loại chi tiết phân biệt rõ quấy rối thật với lời trêu đùa cạnh tranh, với các trường hợp mơ hồ được chuyển lên một cấp kiểm duyệt thay vì mặc định gắn cờ.
Cách tiếp cận này có thể bao phủ nhiều tựa game hoặc ngôn ngữ không?
Có, miễn là người gán nhãn được ghép với quy ước cộng đồng của từng game và các ngôn ngữ mục tiêu cho mỗi tựa game.
Related case studies
Dữ liệu xác minh khuôn mặt và danh tính cho một nền tảng di chuyển toàn cầu
Một nền tảng di chuyển và gọi xe toàn cầu cần dữ liệu khuôn mặt và danh tính đã được xác minh tại nhiều khu vực để tăng cường hệ thống xác minh an toàn cho tài xế và hành khách, theo các yêu cầu nghiêm ngặt về sự đồng ý và xử lý dữ liệu sinh trắc học.
Thu thập dữ liệu video góc nhìn thứ nhất cho một chương trình AI robot
Một công ty AI robot cần video góc nhìn thứ nhất quay con người thực hiện các nhiệm vụ vật lý hằng ngày, được ghi nhận nhất quán trên nhiều môi trường và dáng người đa dạng, để huấn luyện mô hình AI có thân thể khái quát hóa vượt ra ngoài một môi trường phòng thí nghiệm đơn lẻ.
Đánh giá RLHF cho một mô hình AI hội thoại
Một công ty AI hội thoại cần một quy trình đánh giá của con người có cấu trúc, có thể mở rộng để chấm chất lượng câu trả lời của chatbot cho quá trình tinh chỉnh RLHF, sau khi nhóm người chấm tùy hứng hiện có tạo ra điểm số thiếu nhất quán.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.