71% video do YouTube đề xuất chứa nội dung phản cảm

Kỳ Duyên15:17 28/07/2021

Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm.

YouTube sử dụng thuật toán phức tạp để đưa ra những video đề xuất tiếp theo cho người xem. Tuy nhiên, theo một nghiên cứu từ Mozilla Foundation , tổ chức phi lợi nhuận về phần mềm, thuật toán này có nhiều khả năng sẽ đề xuất các video có nội dung khiêu dâm và nhạy cảm thay vì những video liên quan đến sở thích cá nhân.

Trong một nghiên cứu với hơn 37.000 tình nguyện viên, Mozilla phát hiện ra rằng 71% các video được đề xuất trên YouTube đã bị người tham gia gắn cờ là phản cảm. Cụ thể, người tham gia đã sử dụng tiện ích mở rộng của trình duyệt để theo dõi việc xem YouTube của họ trong hơn 10 tháng và khi họ gắn cờ một video có vấn đề, tiện ích mở rộng này sẽ ghi lại nếu họ xem video đó qua đề xuất của YouTube hay của chính họ.

Người xem phản ánh video đề xuất của YouTube có nội dung phản cảm.

Những video đề xuất này thường có nội dung ngụy khoa học, thuyết âm mưu 11/9, ngược đãi động vật, ủng hộ quyền lực tối cao của người da trắng… Ngoài ra, một phụ huynh nói với Mozilla rằng cô con gái 10 tuổi của họ đã “rơi vào vực thẳm” vì xem những video ăn kiêng khắc nghiệt trong khi tìm kiếm nội dung liên quan đến nhảy khiêu vũ. Điều này đã khiến cô bé phải hạn chế thói quen ăn uống của mình.

Video đang HOT

Những video này được đề xuất vì khả năng lan truyền cũng như khả năng thu hút lượt xem của chúng. Khi những video đề xuất mang lại hàng nghìn hoặc hàng triệu lượt xem thì thuật toán đề xuất có thể lưu hành nội dung đó đến người dùng, thay vì tập trung vào sở thích cá nhân của họ.

Sau vụ phản ánh từ người xem, YouTube đã xóa 200 video bị gắn cờ.

“Công ty đã giảm các đề xuất về nội dung được xác định là có hại xuống dưới 1% số video được xem”, người đại diện của YouTube chia sẻ với The Wall Street Journal.

Dù đã đồng ý về việc xóa các video có nội dung bạo lực hoặc phân biệt chủng tộc, YouTube lại từ chối công khai bất kỳ thông tin nào về cách hoạt động chính xác của thuật toán đề xuất, đồng thời khẳng định nó là độc quyền. Do đó, việc YouTube có thực sự cải tiến thuật toán để tránh lan truyền video phản cảm hay không, thay vì chỉ xử lý từng trường hợp được báo cáo, vẫn là câu hỏi không lời đáp.

Thuật toán gợi ý của Youtube liên tục trình ra những video mà người xem chỉ muốn quên đi cho nhẹ lòng

Một khảo sát do Mozilla thực hiện cho thấy 71% những video mà người xem báo cáo là họ ước mình chưa từng xem đều là do thuật toán của YouTube gợi ý.

YouTube cũng gợi ý người xem các video mà sau đó chính video đó lại bị YouTube gỡ vì phạm luật do chính mình đặt ra và hầu hết các video bị gắn cờ lại có nhiều lượt xem hơn cả.

YouTube đáp lại rằng khảo sát của họ cho thấy người xem cảm thấy thỏa mãn với các gợi ý. YouTube cũng bình luận rằng công ty không có cách nào xác minh dữ liệu của Mozilla, khẳng định họ luôn luôn cố gắng cải thiện thuật toán gợi ý, bao gồm 30 thay đổi mới nhằm giảm thiểu rủi ro với các video tiêu cực vào năm ngoái.

YouTube là nguồn video trực tuyến lớn nhất trên thế giới, với hơn 2 tỷ người xem mỗi tháng, với thời lượng 1 tỷ giờ mỗi ngày. YouTube cho rằng thuật toán gợi ý đóng vai trò không nhỏ trong 70% thời lượng xem này.

Khoảng 9% các video khiến người xem cảm thấy ân hận vì đã xem đã bị gỡ khỏi YouTube. Các video có thể bị gỡ vì bất kì lý do gì, bao gồm nội dung phản cảm hay vi phạm luật bản quyền. Đôi khi chính người đăng tự gỡ. Tuy nhiên, nghiên cứu khẳng định YouTube đã gỡ một số video phạm luật mà trước đó chính trang web đã đưa ra gợi ý xem.

Brandi Geurkink, trưởng phòng luật của Mozilla và là tác giả nghiên cứu bình luận: "Điều này thật vô lý, chính thuật toán này lại tự phản lại chính chức năng quản lý của nó."

Nghiên cứu cũng phát hiện những video này phổ biến hơn cả trên YouTube. Chúng có thêm lượt xem nhiều hơn những video khác tới 70%.

Giống như các mạng xã hội khác, YouTube từ lâu đã phải vật lộn với nhiệm vụ duy trì sự cân bằng giữa tự do ngôn luận và sự kiểm soát trước các nội dung độc hại, bao gồm thông tin sai lệch, thuyết âm mưu, phát ngôn quấy rối, gây thù hằn, án mạng tập thể, bạo hành trẻ em,... trên quy mô lớn.

Nghiên cứu dựa trên các báo cáo tự nguyện được gửi qua phần mở rộng extension mà Mozilla phát triển cho trình duyệt Chrome và Firefox. Hàng chục nghìn người đã tải extension này và 1.662 người đã đăng ít nhất 1 báo cáo về video khiến họ ân hận vì đã xem trong tổng số 3.362 báo cáo đến từ 91 quốc gia từ tháng 5 tới tháng 7 năm 2020.

Nghiên cứu này có một vài khuyết điểm ví dụ như những người báo cáo đều thuộc nhóm những người đã quyết định tham gia thay vì được chọn ngẫu nhiên, cũng như tiêu chí đánh giá không được kiểm duyệt sát sao. Dữ liệu này đến hầu hết từ các trình duyệt desktop do đó không bao gồm các thiết bị di động hay các TV thông minh. Các thiết bị di động góp tới 70% tổng thời lượng xem YouTube.

Mozilla đưa ra một số gợi ý cho bạn để cải thiện gợi ý từ YouTube bao gồm kiểm tra cài đặt về dữ liệu của YouTube và Google cũng như xem lại lịch sử xem video của mình để loại bỏ những gì bạn không muốn có thể gây ảnh hưởng tới kết quả gợi ý trong tương lai.

Mozilla cho rằng YouTube và các nền tảng khác nên thuê các bên thứ 3 để đánh giá hệ thống thuật toán gợi ý, tăng tính minh bạch về tiêu chuẩn nội dung cũng như cho phép người dùng kiểm soát cách dữ liệu cá nhân được sử dụng bởi thuật toán, bao gồm khả năng từ chối chức năng cá nhân hóa gợi ý.

Ngoài ra, Mozilla cũng khuyến cáo các cơ quan có thẩm quyền yêu cầu các nền tảng cung cấp thông tin cũng như các công cụ để đánh giá và kiểm duyệt thuật toán của họ. Các cơ quan chức năng nên đảm bảo rằng các nền tảng ứng dụng hiểu rõ những rủi ro đi kèm với việc tạo ra các hệ thống tự động điều phối nội dung trên quy mô lớn.

Mozilla là công ty nổi tiếng đã tạo ra trình duyệt FireFox. Google, công ty mẹ của YouTube, là một trong những nguồn thu lớn nhất cho Mozilla nhờ vào khoản phí mà Google trả cho Mozilla để tích hợp mặc định công cụ tìm kiếm Google vào Firefox.

Thuật toán YouTube vẫn hướng người xem vào nội dung độc hại Hơn 71% video bị cắm cờ bởi nhóm tình nguyện viên vẫn được đề xuất bởi YouTube, theo một nghiên cứu mới đây của Mozilla (cha đẻ trình duyệt Firefox). Tổ chức phần mềm phi lợi nhuận Mozilla Foundation mới đây đã phát hiện ra rằng thuật toán đề xuất của YouTube vẫn hướng người xem trực tiếp vào các video tin giả...

Bạn thấy bài viết này có hữu ích không?

Có

Không

Tin liên quan

Xem thêm Share

Xem nhiều

Windows 11 chiếm bao nhiêu dung lượng ổ cứng?01:07

5 điều nhà sản xuất smartphone không nói cho người mua08:58

iPhone sẽ 'suy tàn' sau 10 năm nữa?00:36

One UI 7 đến với dòng Galaxy S2103:50

Tiêu điểm

Tin đang nóng

Tin mới nhất

Hệ điều hành 'cổ' vẫn âm thầm vận hành bệnh viện và xe lửa toàn cầu

09:41:32 21/05/2025

Những hệ điều hành cổ xưa như Windows XP, thậm chí cả MS-DOS, vẫn đang âm thầm vận hành nhiều hệ thống trọng yếu trên khắp thế giới, từ bệnh viện, tàu hỏa đến máy ATM, bất chấp sự lỗi thời và việc ngừng hỗ trợ từ lâu.

Nguy cơ camera smartphone bị hư hại do tia laser

09:35:29 21/05/2025

Người dùng smartphone thường lo lắng về việc làm rơi hoặc làm ướt thiết bị của mình mà không biết đến mối nguy hiểm hiện hữu với camera.

Người dùng Galaxy đang 'điên đầu' vì One UI 7 làm pin tụt nhanh

09:14:56 21/05/2025

Bản cập nhật One UI 7 dựa trên Android 15 mà Samsung phát hành cho các thiết bị Galaxy đang gây nhiều cảm xúc cho cộng đồng người hâm mộ.

Apple sắp cho Siri 'về vườn' sau hơn một thập kỷ?

09:06:46 21/05/2025

Theo GSMArena, một thông tin đang gây xôn xao cộng đồng người dùng iPhone khi trợ lý ảo Siri, vốn gắn bó hơn một thập kỷ, có thể sắp phải nhường chỗ cho các đối thủ AI sừng sỏ khác.

One UI 8 là câu chuyện 'buồn vui lẫn lộn' cho người dùng Galaxy S22

09:03:40 21/05/2025

Khi Galaxy S22 được cập nhật lên One UI 8, người dùng sẽ không còn nhận được các bản nâng cấp hệ điều hành Android lớn nữa.

Galaxy S25 Edge sẽ là tiêu chuẩn thiết kế cho tương lai?

07:26:41 21/05/2025

Sở hữu thiết kế mỏng ấn tượng 5,8 mm nhưng Galaxy S25 Edge vẫn gặp phải những phản ứng trái chiều từ cộng đồng mạng, với nhiều ý kiến mang tính hoài nghi.

Microsoft đưa tính năng bí mật lên Windows 11

07:21:39 21/05/2025

Thế hệ đồng hồ thông minh mới của Huawei bao gồm hai phiên bản Watch Fit 4 và Watch Fit 4 Pro, mang đến những nâng cấp đáng giá về cả thiết kế lẫn tính năng.

Nvidia ra mắt công nghệ kết nối chip mới để thúc đẩy phát triển AI

05:15:30 21/05/2025

Bên cạnh việc ra mắt công nghệ mới, ông Huang cũng công bố kế hoạch xây dựng trụ sở mới của Nvidia tại khu vực ngoại ô phía Bắc thành phố Đài Bắc. Bài phát biểu của ông tại Computex nhấn mạnh lịch sử phát triển chip AI, hệ thống và phần...

Đột phá AI: Con chip mới hứa hẹn cách mạng hóa nhiều lĩnh vực

11:33:46 20/05/2025

Con chip này được thiết kế dựa trên cấu trúc mô phỏng não bộ, đặc biệt là cách các tế bào thần kinh tích hợp và truyền dẫn tín hiệu.

Apple có thể loại bỏ trợ lý giọng nói Siri tại nhiều quốc gia

10:00:54 20/05/2025

Dù Apple có phần chậm chân trong cuộc đua trí tuệ nhân tạo (AI), công ty dường như đang cân nhắc một quyết định quan trọng khi cho phép người dùng cho nghỉ hưu trợ lý giọng nói Siri.

Tin công nghệ 19-5: iOS 19 có thể giúp iPhone tăng đáng kể thời lượng pin

08:26:21 20/05/2025

Ngành X-quang là ví dụ điển hình. Việc chụp MRI hay CT đòi hỏi nhiều bước xác nhận trước khi bệnh nhân đến. Thay vì xử lý thủ công, tác nhân AI giúp đẩy nhanh quy trình, từ kiểm tra bảo hiểm đến tạo lệnh chụp, mang lại trải nghiệm mượt ...

Đưa ứng dụng AI vào quy trình thẩm định thuốc

08:24:43 20/05/2025

Các cuộc gặp được cho là để thảo luận về một dự án có tên là cderGPT , nhiều khả năng là cách viết tắt cho Trung tâm Đánh giá và Nghiên cứu Thuốc (Center for Drug Evaluation and Research), đơn vị phụ trách giám sát thuốc kê đơn và không...

Có thể bạn quan tâm

Israel có thể sắp tấn công cơ sở hạt nhân Iran

Thế giới

17:25:16 21/05/2025

Mỹ có được thông tin tình báo mới cho thấy Israel đang chuẩn bị tấn công các cơ sở hạt nhân của Iran, ngay cả khi chính quyền Tổng thống Donald Trump theo đuổi một thỏa thuận ngoại giao với Tehran.

Quốc Trường: Ở biệt thự 300m2, gia tài vài trăm tỷ, U40 được ghép đôi Lọ Lem

Sao việt

17:22:49 21/05/2025

Ở tuổi U40, dù đã đạt được nhiều thành công trong sự nghiệp và được đánh giá là hình mẫu lý tưởng, nhưng Quốc Trường khiến người hâm mộ đứng ngồi không yên vì vẫn đang độc thân.

NSƯT Quang Thắng uống thuốc an thần vì bị công kích, kể về cơ duyên gặp vợ

Tv show

17:18:18 21/05/2025

NSƯT Quang Thắng chia sẻ rằng, anh từng bị căng thẳng khi đóng Táo quân và phải uống thuốc an thần khi bị đồng nghiệp công kích.

Phát hiện các đối tượng chôn trái phép chất thải công nghiệp ở Hưng Yên

Tin nổi bật

17:01:13 21/05/2025

Ông Trần Văn Bằng bị phát hiện chỉ đạo chôn lấp trái phép chất thải công nghiệp tại khu đất thuộc xã Đại Đồng, huyện Văn Lâm (Hưng Yên).

Lisa (BLACKPINK) nghi vấn "dựa hơi" bạn trai tài phiệt, fan phản pháo gay gắt

Sao châu á

16:53:19 21/05/2025

Lisa (BLACKPINK) hiện đang ở Ý để dự sự kiện của BVLGARI. Bên cạnh đó, team qua đường còn phát hiện cô dành thời gian tại đây để hẹn hò với bạn trai tài phiệt Frédéric Arnault. Bức ảnh cặp đôi hẹn hò ở đảo Sicily, Ý nhanh chóng gây bão ...

Sự cố nhiễu loạn máy bay Vietnam Airlines: hành khách trải nghiệm tái mặt

Netizen

16:48:57 21/05/2025

Vừa qua, MXH xuất hiện đoạn clip về sự cố nhiễu sóng máy bay của hãng Vietnam Airlines khiến dư luận xôn xao. Hiện trường cho thấy, dưới sàn rơi rớt nhiều bữa ăn còn dang dở của hành khách.