Facebook che giấu vấn đề nội dung thù ghét thế nào

Facebook tuyên bố AI có thể chặn phần lớn các phát ngôn thù ghét, nhưng tài liệu nội bộ cho thấy hiệu quả chỉ vài phần trăm.

Trên truyền thông, Facebook khẳng định loại bỏ hơn 90% nội dung gây thù ghét trên nền tảng của mình. Ngược lại, những tài liệu nội bộ mà cựu quản lý Frances Haugen công bố thể hiện, con số thực tế chỉ là 3-5%. Mạng xã hội muốn người dùng tin rằng hầu hết nội dung tiêu cực đã bị xóa bỏ, trong khi thực tế vẫn tồn tại trên Facebook.

Sau khi Haugen xuất hiện, công chúng chủ yếu tập trung vào mức độ ảnh hưởng của Instagram tới sức khỏe của giới trẻ cũng như thuật toán kích động tin giả trên News Feed của Facebook. Tuy nhiên, tài liệu cũng cho thấy sự thất bại của Facebook trong kiểm soát ngôn ngữ, cách mạng xã hội sử dụng chiêu trò để che giấu tình trạng này, cũng như mức độ phụ thuộc của họ vào AI để giám sát nội dung và sự kém hiệu quả của nó.

Zuckerberg điều trần trước Thượng viện Mỹ hồi năm 2018. Ảnh: AP

Trong cuộc điều trần trước Thượng viện Mỹ hồi tháng 10/2020, CEO Facebook Mark Zuckerberg đề cập tới các báo cáo minh bạc của công ty, khẳng định mạng xã hội đã xóa 94% nội dung thù ghét trên nền tảng.

Ông tiếp tục lặp lại câu trả lời trong cuộc điều trần trước Hạ viện Mỹ sau đó vài tháng, nói đã loại bỏ 12 triệu nội dung vi phạm chính sách trong các hội nhóm Facebook, trong đó 87% nội dung được nền tảng này chủ động phát hiện.

Báo cáo minh bạch được Facebook công bố theo quý cho thấy mạng xã hội này luôn xử lý được trên 80% nội dung thù ghét, ngược với việc ban lãnh đạo mạng xã hội này thừa nhận “chỉ áp dụng hành động với 3-5% nội dung” vào tháng 3, theo tài liệu mới được tiết lộ.

Về cơ bản, cả hai con số đưa ra đều đúng, vì được áp dụng với những yếu tố khác nhau. Tức Facebook “ỉm đi” những con số thực sự quan trọng và chỉ công bố số liệu của các vấn đề không thực sự liên quan.

Có hai cách xử lý nội dung thù ghét trên Facebook, bao gồm người dùng tự báo cáo và sử dụng thuật toán AI để tự động phát hiện. Phương pháp thứ hai hiệu quả hơn và có thể tiến hành chủ động, trước khi người dùng đánh dấu báo cáo nội dung cụ thể.

Con số 94% được Facebook công bố là “tỷ lệ chủ động”, là số bài viết thù ghét bị gỡ bỏ sau khi AI phát hiện trên tổng số nội dung bị xóa bỏ. Facebook muốn người dùng tin đây là con số nội dung bị xóa trước khi gây hại, nhưng thực tế, nó chỉ thể hiện vai trò của thuật toán AI trong phát hiện thông tin độc hại trên nền tảng.

Điều quan trọng với xã hội là số nội dung thù ghét không bị xóa. Cách tốt nhất để xác định là tính tỷ lệ nội dung bị xóa trên tổng số nội dung được ghi nhận. “Tỷ lệ xóa” này sẽ thể hiện thực sự có bao nhiêu bài viết độc hại được Facebook gỡ bỏ, nhưng cũng là con số mà mạng xã hội này tìm cách che giấu.

Tài liệu được Haugen công bố cho thấy hơn 95% bài viết độc hại được chia sẻ vẫn còn nguyên trên Facebook. Zuckerberg tuyên bố đã xóa 12 triệu bài viết, nhưng vẫn còn khoảng 250 triệu bài viết tồn tại trên Facebook, bất chấp nỗ lực đầu tư vào AI của mạng xã hội này.

Frances Haugen trong cuộc điều trần trước Thượng viện Mỹ ngày 5/10. Ảnh: Reuters

Một chỉ số khác thường được Facebook công bố là “độ phổ biến” của nội dung thù ghét. Một phát ngôn viên công ty nói, chỉ 0,05% nội dung độc hại được đọc và giảm gần 50% so với ba quý trước. Con số này tạo cảm giác các bài viết độc hại ít xuất hiện trên Facebook, nhưng không phản ánh độ phổ biến cao của chúng trong những cộng đồng và người dùng cụ thể.

Zuckerberg từng nhiều lần nhấn mạnh tiến bộ trong công nghệ AI là chìa khóa để Facebook xử lý nội dung sai trái. Dù vậy, đã nhiều năm trôi qua, AI của họ vẫn chỉ giải quyết được một phần rất nhỏ của vấn đề.

Theo Wired , không có biện pháp nào đủ mạnh để giải quyết triệt để tình trạng kích động thù ghét trên mạng xã hội. Kiểm soát nội dung là vấn đề khó khăn và AI còn lâu mới trở thành giải pháp toàn diện như các công ty quảng bá. Haugen cho thấy không thể trông chờ sự trung thực từ những tập đoàn công nghệ lớn, mà phải triển khai những cơ chế pháp lý để buộc họ công bố số liệu, như tỷ lệ xóa bỏ với những loại nội dung cụ thể.

“Tỷ lệ này vẫn có thể làm giả, nhưng đây sẽ là bước đi đúng hướng nhằm ngăn các chiêu trò được Facebook sử dụng suốt nhiều năm qua. Họ cần áp dụng điểm số tín dụng với hoạt động kiểm soát nội dung, dựa trên tỷ lệ xóa bỏ chứ không phải những con số vô nghĩa như tỷ lệ chủ động hay độ phổ biến”, cây bút Noah Giansiracusa nhận xét.