Phân loại nội dung có hại về tin cậy và an toàn cho một nền tảng mạng xã hội
Một nền tảng mạng xã hội cần nội dung có hại được phân loại nhất quán trên nhiều ngôn ngữ để huấn luyện mô hình tin cậy và an toàn, sau khi phạm vi bao phủ không đồng đều khiến một số thị trường không nói tiếng Anh của họ bị kiểm duyệt thiếu đáng kể.
Client snapshot
| Industry | Mạng xã hội và nền tảng nội dung |
|---|---|
| Region | Toàn cầu, tập trung ở các thị trường không nói tiếng Anh tăng trưởng nhanh nhất của khách hàng |
| Engagement type | Phân loại nội dung có hại đa ngôn ngữ cho tin cậy và an toàn |
The challenge
Mô hình kiểm duyệt của khách hàng hoạt động tốt bằng tiếng Anh nhưng có phạm vi bao phủ yếu hơn đáng kể ở một số thị trường tăng trưởng nhanh nhất, nơi nội dung có hại vừa khó phát hiện hơn vừa mang rủi ro nền tảng lớn khi bị bỏ sót.
The approach
Jwuma phân công những người gán nhãn là người bản ngữ ở các ngôn ngữ ưu tiên của khách hàng để phân loại nội dung theo một phân loại tác hại chi tiết, với các phân loại bị tranh chấp hoặc ở ranh giới được chuyển lên một cấp kiểm duyệt và hiệu chuẩn bằng nhiệm vụ vàng được dùng để theo dõi tính nhất quán của phân loại giữa các ngôn ngữ.
Results
Khách hàng đã mở rộng phạm vi phân loại nội dung có hại nhất quán sang các thị trường trước đây bị kiểm duyệt thiếu đáng kể, thu hẹp một khoảng trống đáng kể trong phạm vi tin cậy và an toàn của mình.
Frequently asked questions
Vì sao phân loại nội dung có hại đa ngôn ngữ khó hơn kiểm duyệt chỉ bằng tiếng Anh?
Vì nội dung có hại thường dựa vào tiếng lóng địa phương, bối cảnh văn hóa và ngôn ngữ ẩn ý mà một mô hình được huấn luyện chủ yếu trên dữ liệu tiếng Anh sẽ không bắt được một cách đáng tin cậy.
Jwuma duy trì tính nhất quán của phân loại trên nhiều ngôn ngữ như thế nào?
Thông qua một phân loại tác hại dùng chung được những người gán nhãn bản ngữ ở từng ngôn ngữ áp dụng, với hiệu chuẩn bằng nhiệm vụ vàng theo dõi tính nhất quán trên toàn bộ nhóm người gán nhãn.
Điều gì xảy ra khi một phân loại nội dung bị tranh chấp hoặc không rõ ràng?
Nó được chuyển cấp qua thang kiểm duyệt nhiều cấp của Jwuma thay vì phụ thuộc vào phán đoán của một người gán nhãn, do rủi ro của nền tảng khi có một quyết định sai.
Related case studies
Dữ liệu xác minh khuôn mặt và danh tính cho một nền tảng di chuyển toàn cầu
Một nền tảng di chuyển và gọi xe toàn cầu cần dữ liệu khuôn mặt và danh tính đã được xác minh tại nhiều khu vực để tăng cường hệ thống xác minh an toàn cho tài xế và hành khách, theo các yêu cầu nghiêm ngặt về sự đồng ý và xử lý dữ liệu sinh trắc học.
Thu thập dữ liệu video góc nhìn thứ nhất cho một chương trình AI robot
Một công ty AI robot cần video góc nhìn thứ nhất quay con người thực hiện các nhiệm vụ vật lý hằng ngày, được ghi nhận nhất quán trên nhiều môi trường và dáng người đa dạng, để huấn luyện mô hình AI có thân thể khái quát hóa vượt ra ngoài một môi trường phòng thí nghiệm đơn lẻ.
Đánh giá RLHF cho một mô hình AI hội thoại
Một công ty AI hội thoại cần một quy trình đánh giá của con người có cấu trúc, có thể mở rộng để chấm chất lượng câu trả lời của chatbot cho quá trình tinh chỉnh RLHF, sau khi nhóm người chấm tùy hứng hiện có tạo ra điểm số thiếu nhất quán.
Published 2026-10-02 by Jwuma, operated by Corpshore AI. This case study is an anonymized composite representative of the kind of work Jwuma performs in this industry, described by industry, region and engagement type rather than by company name, since this engagement is not yet cleared for public naming. Discuss a similar program at client.corpshore.ai.