71% video do YouTube đề xuất chứa nội dung phản cảm
Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm.
YouTube sử dụng thuật toán phức tạp để đưa ra những video đề xuất tiếp theo cho người xem. Tuy nhiên, theo một nghiên cứu từ Mozilla Foundation , tổ chức phi lợi nhuận về phần mềm, thuật toán này có nhiều khả năng sẽ đề xuất các video có nội dung khiêu dâm và nhạy cảm thay vì những video liên quan đến sở thích cá nhân.
Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm. Cụ thể, người tham gia đã sử dụng tiện ích mở rộng của trình duyệt để theo dõi việc xem YouTube của họ trong hơn 10 tháng và khi họ gắn cờ một video có vấn đề, tiện ích mở rộng này sẽ ghi lại nếu họ xem video đó qua đề xuất của YouTube hay của chính họ.
Người xem phản ánh video đề xuất của YouTube có nội dung phản cảm.
Những video đề xuất này thường có nội dung ngụy khoa học, thuyết âm mưu 11/9, ngược đãi động vật, ủng hộ quyền lực tối cao của người da trắng… Ngoài ra, một phụ huynh nói với Mozilla rằng cô con gái 10 tuổi của họ đã “rơi vào vực thẳm” vì xem những video ăn kiêng khắc nghiệt trong khi tìm kiếm nội dung liên quan đến nhảy khiêu vũ. Điều này đã khiến cô bé phải hạn chế thói quen ăn uống của mình.
Video đang HOT
Những video này được đề xuất vì khả năng lan truyền cũng như khả năng thu hút lượt xem của chúng. Khi những video đề xuất mang lại hàng nghìn hoặc hàng triệu lượt xem thì thuật toán đề xuất có thể lưu hành nội dung đó đến người dùng, thay vì tập trung vào sở thích cá nhân của họ.
Sau vụ phản ánh từ người xem, YouTube đã xóa 200 video bị gắn cờ.
“Công ty đã giảm các đề xuất về nội dung được xác định là có hại xuống dưới 1% số video được xem”, người đại diện của YouTube chia sẻ với The Wall Street Journal.
Dù đã đồng ý về việc xóa các video có nội dung bạo lực hoặc phân biệt chủng tộc, YouTube lại từ chối công khai bất kỳ thông tin nào về cách hoạt động chính xác của thuật toán đề xuất, đồng thời khẳng định nó là độc quyền. Do đó, việc YouTube có thực sự cải tiến thuật toán để tránh lan truyền video phản cảm hay không, thay vì chỉ xử lý từng trường hợp được báo cáo, vẫn là câu hỏi không lời đáp.
Thuật toán gợi ý của Youtube liên tục trình ra những video mà người xem chỉ muốn quên đi cho nhẹ lòng
Một khảo sát do Mozilla thực hiện cho thấy 71% những video mà người xem báo cáo là họ ước mình chưa từng xem đều là do thuật toán của YouTube gợi ý.
YouTube cũng gợi ý người xem các video mà sau đó chính video đó lại bị YouTube gỡ vì phạm luật do chính mình đặt ra và hầu hết các video bị gắn cờ lại có nhiều lượt xem hơn cả.
YouTube đáp lại rằng khảo sát của họ cho thấy người xem cảm thấy thỏa mãn với các gợi ý. YouTube cũng bình luận rằng công ty không có cách nào xác minh dữ liệu của Mozilla, khẳng định họ luôn luôn cố gắng cải thiện thuật toán gợi ý, bao gồm 30 thay đổi mới nhằm giảm thiểu rủi ro với các video tiêu cực vào năm ngoái.
YouTube là nguồn video trực tuyến lớn nhất trên thế giới, với hơn 2 tỷ người xem mỗi tháng, với thời lượng 1 tỷ giờ mỗi ngày. YouTube cho rằng thuật toán gợi ý đóng vai trò không nhỏ trong 70% thời lượng xem này.
Khoảng 9% các video khiến người xem cảm thấy ân hận vì đã xem đã bị gỡ khỏi YouTube. Các video có thể bị gỡ vì bất kì lý do gì, bao gồm nội dung phản cảm hay vi phạm luật bản quyền. Đôi khi chính người đăng tự gỡ. Tuy nhiên, nghiên cứu khẳng định YouTube đã gỡ một số video phạm luật mà trước đó chính trang web đã đưa ra gợi ý xem.
Brandi Geurkink, trưởng phòng luật của Mozilla và là tác giả nghiên cứu bình luận: "Điều này thật vô lý, chính thuật toán này lại tự phản lại chính chức năng quản lý của nó."
Nghiên cứu cũng phát hiện những video này phổ biến hơn cả trên YouTube. Chúng có thêm lượt xem nhiều hơn những video khác tới 70%.
Giống như các mạng xã hội khác, YouTube từ lâu đã phải vật lộn với nhiệm vụ duy trì sự cân bằng giữa tự do ngôn luận và sự kiểm soát trước các nội dung độc hại, bao gồm thông tin sai lệch, thuyết âm mưu, phát ngôn quấy rối, gây thù hằn, án mạng tập thể, bạo hành trẻ em,... trên quy mô lớn.
Nghiên cứu dựa trên các báo cáo tự nguyện được gửi qua phần mở rộng extension mà Mozilla phát triển cho trình duyệt Chrome và Firefox. Hàng chục nghìn người đã tải extension này và 1.662 người đã đăng ít nhất 1 báo cáo về video khiến họ ân hận vì đã xem trong tổng số 3.362 báo cáo đến từ 91 quốc gia từ tháng 5 tới tháng 7 năm 2020.
Nghiên cứu này có một vài khuyết điểm ví dụ như những người báo cáo đều thuộc nhóm những người đã quyết định tham gia thay vì được chọn ngẫu nhiên, cũng như tiêu chí đánh giá không được kiểm duyệt sát sao. Dữ liệu này đến hầu hết từ các trình duyệt desktop do đó không bao gồm các thiết bị di động hay các TV thông minh. Các thiết bị di động góp tới 70% tổng thời lượng xem YouTube.
Mozilla đưa ra một số gợi ý cho bạn để cải thiện gợi ý từ YouTube bao gồm kiểm tra cài đặt về dữ liệu của YouTube và Google cũng như xem lại lịch sử xem video của mình để loại bỏ những gì bạn không muốn có thể gây ảnh hưởng tới kết quả gợi ý trong tương lai.
Mozilla cho rằng YouTube và các nền tảng khác nên thuê các bên thứ 3 để đánh giá hệ thống thuật toán gợi ý, tăng tính minh bạch về tiêu chuẩn nội dung cũng như cho phép người dùng kiểm soát cách dữ liệu cá nhân được sử dụng bởi thuật toán, bao gồm khả năng từ chối chức năng cá nhân hóa gợi ý.
Ngoài ra, Mozilla cũng khuyến cáo các cơ quan có thẩm quyền yêu cầu các nền tảng cung cấp thông tin cũng như các công cụ để đánh giá và kiểm duyệt thuật toán của họ. Các cơ quan chức năng nên đảm bảo rằng các nền tảng ứng dụng hiểu rõ những rủi ro đi kèm với việc tạo ra các hệ thống tự động điều phối nội dung trên quy mô lớn.
Mozilla là công ty nổi tiếng đã tạo ra trình duyệt FireFox. Google, công ty mẹ của YouTube, là một trong những nguồn thu lớn nhất cho Mozilla nhờ vào khoản phí mà Google trả cho Mozilla để tích hợp mặc định công cụ tìm kiếm Google vào Firefox.
Thuật toán YouTube vẫn hướng người xem vào nội dung độc hại Hơn 71% video bị cắm cờ bởi nhóm tình nguyện viên vẫn được đề xuất bởi YouTube, theo một nghiên cứu mới đây của Mozilla (cha đẻ trình duyệt Firefox). Tổ chức phần mềm phi lợi nhuận Mozilla Foundation mới đây đã phát hiện ra rằng thuật toán đề xuất của YouTube vẫn hướng người xem trực tiếp vào các video tin giả...