Thuật toán YouTube vẫn hướng người xem vào nội dung độc hại

Phương Nguyễn21:46 08/07/2021

Hơn 71% video bị cắm cờ bởi nhóm tình nguyện viên vẫn được đề xuất bởi YouTube, theo một nghiên cứu mới đây của Mozilla (cha đẻ trình duyệt Firefox).

Tổ chức phần mềm phi lợi nhuận Mozilla Foundation mới đây đã phát hiện ra rằng thuật toán đề xuất của YouTube vẫn hướng người xem trực tiếp vào các video tin giả và nội dung gợi dục, dù rằng 71% số video đó đã bị người tham gia phản đối bằng cách cắm cờ.

Cắm cờ là một hình thức báo cáo (report) để người dùng thông báo cho YouTube biết video đó chứa nội dung vi phạm chính sách.

Nghiên cứu mới này tiếp tục giáng một đòn mạnh vào các nền tảng như YouTube, Facebook hay Twitter. Những năm gần đây, các nền tảng mạng xã hội khuyến khích người dùng chia sẻ thông tin nhiều hơn nữa, nhưng đang phải đối mặt với pháp luật và áp lực dư luận khi để tin giả, nội dung độc hại tràn lan mà không có sự kiểm duyệt gắt gao.

Với YouTube, nó cho thấy nhiều lỗ hổng trong việc gợi ý người xem video có nhiều lượt xem thay vì nội dung có ý nghĩa.

Thuật toán đề xuất của YouTube góp phần lan truyền nội dung xấu độc, thuyết âm mưu.

Trong nghiên cứu của Mozilla, 37.000 tình nguyện viên đã sử dụng tiện ích mở rộng để đo đạc tần suất sử dụng YouTube trong 10 tháng liên tục kết thúc vào tháng 5/2021. Khi người tham gia cắm cờ một video, tiện ích mở rộng sẽ biết được video đó đã được đề xuất cho người xem hay người xem chủ động mở nó lên.

Các video bị cắm cờ nổi bật có phiên bản ‘người lớn’ của phim hoạt hình Toy Story và video giả mạo Bill Gates thuê sinh viên đếm phiếu bầu. YouTube sau đó đã gỡ bỏ 200 video mà người tham gia cắm cờ, nhưng tổng cộng vẫn có 160 triệu lượt xem trước khi bị gỡ, theo Mozilla.

Phát ngôn viên của YouTube cho biết đã giảm đề xuất của các nội dung độc hại xuống dưới 1% và nền tảng tạo ra 30 thay đổi so với năm trước để xử lý các vấn đề. Vị đại diện này cũng cho biết hệ thống AI có khả năng phát hiện 94% video vi phạm chính sách và gỡ bỏ phần lớn chúng trước khi đạt được 10 lượt xem.

Thuật toán đề xuất của YouTube giúp tạo ra hơn 2/3 trong số 1 tỷ giờ xem mỗi ngày, từ đó kiếm được doanh thu 19,7 tỷ USD trong năm ngoái. Khoảng 720.000 giờ xem được tải lên mỗi ngày là không được giám sát bởi con người như một phần để giảm tải chi phí.

Người đứng đầu nghiên cứu này bà Brandi Geurkink cho biết người tham gia hiếm khi được gợi ý video mà họ tìm kiếm, thay vào đó thuật toán đề xuất toàn những thứ họ không muốn xem.

Nghiên cứu cũng chỉ ra rằng 60% các video được đề xuất lại (sau khi đã bị cắm cờ) đều không phải ở các nước nói tiếng Anh mà chủ yếu ở Brazil, Đức và Pháp. Trong đó, hơn 20% số video bị cắm cờ được phân loại ở mục sai thông tin, 10% là ngôn ngữ thù hận và 7% là nội dung gợi dục.

Video đang HOT

Đáp lại, YouTube luôn từ chối cung cấp thông tin về thuật toán đề xuất và coi đấy là tài sản riêng của công ty.

'TikTok như một quả bom'

Thuật toán đề xuất video của TikTok dễ dàng biến một người vô danh trở thành ngôi sao chỉ trong một đêm. Từ đó, nguy cơ về một vụ bùng nổ bê bối thông tin cũng cao hơn.

Trên TikTok, người dùng dễ tìm thấy một tài khoản nổi tiếng chỉ sau một đêm. Nhiều kênh TikTok đăng tải hàng trăm video nhưng chỉ được vài nghìn lượt xem. Tuy nhiên, chỉ cần một video gây tò mò, tranh cãi... đáp ứng thị hiếu, kênh đó dễ dàng có hàng triệu truy cập.

Điều này đến từ thuật toán đề xuất thẻ "dành cho bạn" của TikTok. Thuật toán này sẽ đề xuất những video có thể người dùng sẽ quan tâm và đang tăng trưởng tốt.

Thuật toán đề xuất của TikTok đang mất kiểm soát

"Có hai yếu tố để thuật toán này thành công là đáp ứng được sở thích của người dùng và lượt tiếp cận cao. Những nội dung giật gân, gây tranh cãi sẽ trở thành nhóm tăng trưởng nhanh nếu không có sự kiểm duyệt chặt chẽ", Phạm Thiên Trang, biên kịch và sáng lập Story Maker.

Thuật toán của TikTok có thể biến bất cứ ai trở nên nổi tiếng chỉ sau một đêm.

Trên thực tế, đội ngũ kiểm duyệt của TikTok không hoạt động hiệu quả. Những video bị cấm, vi phạm chính sách nội dung của mạng xã hội này đều được đăng tải và xuất hiện trong thẻ "dành cho bạn". Các nội dung từ quảng cáo trang cờ bạc, phân biệt vùng miền, bạo lực, ngôn ngữ thù địch, quay lén... đều xuất hiện với hàng triệu lượt xem.

Kênh HuyVu****** đăng hàng chục video về bản thân nhưng chỉ loanh quanh vài chục nghìn view. Nhưng với nội dung quay lén một tiệm gội đầu nam, kênh này có liên tục 3 video đạt 1,8 triệu, 3,5 triệu và 5,6 triệu lượt xem.

Cũng với nội dung quay lén, kênh Trung **** mới lập vài tuần và chỉ được đăng tải vỏn vẹn 5 video. Tuy vậy, một video trong số đó quay lén các nữ tiếp viên một quán karaoke đạt gần 1 triệu lượt xem.

Điều này cho thấy thuật toán của TikTok bỏ qua vấn đề những video này là nội dung quay lén, xâm phạm quyền riêng tư của người khác. Hy sinh quyền riêng tư, TikTok đã chiều chuộng "sở thích" tò mò của người xem.

Ngoài ra, các nội dung khiêu gợi cũng xuất hiện trên TikTok. Một video quay cận cảnh vòng một trên kênh Jessie**** đạt gần 15 triệu truy cập chỉ trong chưa đầy một tuần. Trong khi đó, các video khác có nội dung không vi phạm của kênh này chỉ đạt tối đa 100.000 lượt xem.

Các video khác như đốt tiền, triệt lông vùng kín, đòi nợ... cũng đạt hàng triệu view dù đây không phải kênh dành cho người nổi tiếng. Từ các ví dụ trên, người dùng có thể nhận thấy vai trò kiểm duyệt của TikTok khá mờ nhạt. Trong khi đó, thuật toán đề xuất của nền tảng lại quá mạnh mẽ, đủ sức biến nội dung bẩn từ một kênh không ai biết đến trở thành hiện tượng chỉ sau một đêm.

Cách TikTok khuyến khích người dùng "sáng tạo" nội dung

"Kênh mới tạo của tôi có tốc độ tăng trưởng rất nhanh. Tôi nghĩ mình được TikTok hỗ trợ. Thời gian đầu tài khoản của tôi hướng dẫn nấu ăn khoảng 3 video đầu tiên lượt xem tăng rất mạnh. Tôi coi đó là tín hiệu tốt và thực hiện các nội dung tương tự. Tuy vậy, truy cập thời gian về sau chỉ đạt chưa đến 10%", Minh Châu, sinh viên một trường đại học tại TP.HCM cho biết.

Điều này không chỉ xảy ra với các kênh TikTok cá nhân, nhiều tài khoản của các kênh tin tức thời gian đầu có lượt xem tăng đột biến lên con số vài triệu. Tuy vậy, khi số lượng video bắt đầu tăng, con số này chỉ quanh quẩn mức vài chục nghìn.

Video ghi lại hành động nguy hiểm không có công cụ bảo hộ thu hút 8 triệu lượt xem trên TikTok.

Lấy ví dụ kênh Đức Thung ***. trong 18 video đầu tiên, kênh này có mức tương tác vừa phải. Tuy vậy, đến video vi phạm chính sách nội dung của TikTok về hành vi mạo hiểm lại đạt 8,2 triệu view. Cụ thể, người đàn ông trong video đi trên dây, không có công cụ bảo hộ.

Theo chính sách của TikTok, mạng xã hội này cấm người dùng đăng tải video có tính rủi ro hoặc hành vi nguy hiểm, được thực hiện trong bối cảnh không chuyên nghiệp hoặc không có đủ các kỹ năng cần thiết và biện pháp an toàn.

"Chúng tôi không cho phép những nội dung mô tả, cổ xuý, bình thường hoá hay tôn vinh những hành vi như vậy, bao gồm cả những trò biểu diễn nghiệp dư hoặc thử thách nguy hiểm", chính sách TikTok viết.

Kể từ sau video 8,2 triệu lượt xem đó, tài khoản Đức Thung **** tiếp tục đăng tải các video mạo hiểm vi phạm chính sách của TikTok. Video càng mạo hiểm càng nhiều tiếp cận được nhiều người.

Thế nhưng, chỉ sau vài tháng, truy cập của kênh này không còn đạt con số hàng triệu nữa. Những nội dung đi trên dây bắt đầu gây nhàm chán, người này chuyển sang thăng bằng trên trụ gỗ sau khi nhận bình luận "có một cái làm hoài chán quá". Video "định dạng mới" thu hút ngay 8 triệu lượt xem.

"Khác với YouTube, chủ tài khoản trên TikTok không cần nỗ lực từng ngày để có thêm lượng đăng ký, lượt xem. Chủ kênh TikTok chỉ cần biết làm mới mình bằng nhiều cách. Trong đó, các nội dung gây sốc luôn đem lại tương tác cao hơn các nội dung còn lại", Hữu Nhật, nhà sáng tạo nội dung đa nền tảng tại TP.HCM chia sẻ.

Trong trường hợp của kênh Đức Thung ****, lượt xem video tỷ lệ thuận với độ nguy hiểm mà tài khoản này thực hiện.

Vai trò kiểm duyệt bị bỏ trống

"Thuật toán lan truyền và chiều theo sở thích người dùng là không sai. Tuy vậy, TikTok cần tăng cường kiểm duyệt nếu không muốn thuật toán tiếp tay cho các vụ bê bối nội dung lớn có thể xảy ra trong tương lai", Minh Phương, chuyên gia truyền thông từ SeaEvent phân tích.

Theo ông Phương, việc TikTok đang hướng các chủ kênh đến những nội dung thu hút hơn, nhưng lại bỏ trống khâu kiểm duyệt có thể đẩy công ty này đến các bê bối, khủng hoảng nội dung như Facebook, YouTube từng gặp trước đây.

Tháng 6/2020, một gia đình đã lâm vào cảnh giở khóc giở cười chỉ vì một video 15 giây trên TikTok. Theo đó, tài khoản @Vu_n*** đăng video với nội dung "chú rể ở Bình Phước bế cô dâu chạy thẳng vào nhà mặc kệ gia đình ngăn cản".

Theo chia sẻ của chủ tài khoản trên, do cô dâu mang thai trước ngày cưới nên mẹ chồng kiêng kỵ không cho đi vào cửa trước. Chú rể không muốn vợ thiệt thòi nên đã tự ý bế cô dâu đi vào cửa chính.

Trước khi bị xóa khỏi TikTok, video trên thu hút hàng nghìn lượt chia sẻ, tương tác và hàng trăm bình luận.

Đoạn video 15 giây có nội dung sai sự thật từng gây ảnh hưởng đến một gia đình tại Bình Phước.

Ở phần bình luận, không ít ý kiến chửi bới gia đình chú rể vì cho rằng hủ tục con dâu mang thai không được vào cửa trước đáng bị lên án.

Tuy vậy, video trên được gia đình chú rể khẳng định là sai sự thật. Nói với Zing , Bùi Tâm, anh họ chú rể cho biết trong ngày hôn lễ, thấy con dâu đi giày cao gót, mặc váy cưới đi lại khó khăn nên mẹ chú rể đã bảo con trai bế vợ vào nhà cho khỏi ngã. Tuy nhiên, do chú rể đi quá nhanh nên người mẹ mới ngăn lại.

Theo chính sách nội dung của TikTok, đoạn video trên vi phạm vào mục thông tin sai lệch gây ảnh hưởng đến người khác.

"Chúng tôi xóa thông tin sai lệch có thể gây hại cho sức khỏe của một cá nhân hoặc an toàn công cộng rộng hơn", trích chính sách nội dung TikTok.

Tuy vậy, cho đến lúc nhận được câu hỏi của báo giới, video trên vẫn tồn tại trên TikTok. Điều này cho thấy lớp kiểm duyệt của nền tảng này đang gặp vấn đề nghiêm trọng.

"Định dạng video ngắn dễ gây hiểu lầm cộng với sự lan truyền khủng khiếp của TikTok khiến nền tảng này tiềm ẩn nguy cơ trở thành một quả bom thông tin nếu không được kiểm duyệt chặt chẽ", ông Tuấn Kiệt, Giám đốc Sản xuất từ công ty Kites Entertainment cho biết.

Cảnh báo nguy cơ trẻ em bị xâm hại trên không gian mạng Internet Trẻ em hiện đang là đối tượng dễ bị ảnh hưởng bởi những nội dung xấu, độc trên không gian mạng. Nguy cơ trẻ bị xâm hại trên không gian mạng Theo nghiên cứu của công cụ quản lý truyền thông xã hội "We are Social và Hootsuite" vào năm 2020, Việt Nam có đến 97% người dân đang dùng Internet trên điện...

Bạn thấy bài viết này có hữu ích không?

Có;

Không

Tin liên quan

Xem thêm Share

Xem nhiều

Từ Hàn Quốc về mà không báo ai, chàng trai bị mẹ "tát không trượt phát nào"01:12

Cận cảnh Quang Hải cầm xấp tiền, đếm rồi lì xì cho mẹ vợ, dân mạng "chỉ biết ước" nhưng vẫn góp ý 1 điều01:04

Sao nam Vbiz về ăn Tết nhưng bị bố mẹ doạ đuổi ra khỏi nhà, chuyện gì đây?01:23

Xuân Son được bầu Thiện thưởng căn hộ cao cấp hơn 1 triệu USD05:28

Người duy nhất thành công khắc chế "mỏ hỗn" của Trấn Thành, khiến đạo diễn nghìn tỷ phải ngậm ngùi nhận sai01:10

1 Hoa hậu Vbiz bị "tóm" ôm hôn tình tứ với trai trẻ trên phố00:41

Video Hoa hậu Kỳ Duyên quăng miếng hài tại sự kiện, nhưng bỏ chạy vì nói 1 câu "quê xệ"00:49

Quán bún Hà Nội xin lỗi vụ bán 1,2 triệu đồng 3 bát bún riêu ngày Tết, nói chỉ là 'hiểu lầm'09:39

Nhạc Tết 2025: Đen giữ vững phong độ, các Anh Tài đổ bộ nhưng thiếu hẳn những bản hit mang tầm "quốc dân"?05:15

Vụ xe ôtô lao xuống mương 7 người tử vong: Công an công bố nguyên nhân ban đầu14:39

Hoa hậu Việt đứng hình khi nhận được lời chúc kỳ lạ nhất dịp Tết00:43

Tin đang nóng

Tin mới nhất

Nâng cao và biến đổi hình ảnh của bạn bằng trình chỉnh sửa video trực tuyến CapCut

15:45:56 16/01/2024

Đã đến lúc bỏ lại các công cụ chỉnh sửa cũ và chấp nhận giải pháp thay đổi cuộc chơi. Gặp gỡ Trình chỉnh sửa video trực tuyến CapCut - giải pháp sẽ nâng cao, nâng cao và cách mạng hóa thế giới sáng tạo nội dung trực quan của bạn

Cách đăng Facebook để có nhiều lượt thích và chia sẻ

22:01:27 21/12/2022

Chắc hẳn là ai trong chúng ta cũng luôn muốn các bài đăng trên Facebook có được nhiều lượt thích và chia sẻ. Tuy nhiên, làm thế nào để tối ưu bài đăng thì không phải ai cũng biết

Thêm nhiều bang của Mỹ cấm TikTok

21:03:46 21/12/2022

Louisiana và Tây Virginia là hai bang mới nhất cấm công chức sử dụng TikTok trên thiết bị công do lo ngại Trung Quốc có thể theo dõi người Mỹ và kiểm duyệt nội dung

Microsoft cấm khai thác tiền điện tử trên các dịch vụ đám mây để bảo vệ khách hàng

20:03:41 21/12/2022

Microsoft đã cập nhật thỏa thuận cấm khai thác tiền điện tử trên các dịch vụ trực tuyến của mình. Việc khai thác tiền điện tử trên dịch vụ của Microsoft cần có sự cho phép bằng văn bản của công ty, nhưng cũng chỉ nhằm mục đích thử nghiệ...

Facebook trấn áp hàng loạt công ty phần mềm gián điệp

20:01:24 21/12/2022

Meta (công ty mẹ của Facebook) cho biết họ đã ngăn chặn không dưới 200 hoạt động bí mật, trấn áp hàng loạt công ty phần mềm gián điệp kể từ năm 2017 tại khoảng 70 quốc gia

Meta đối mặt cáo buộc vi phạm các quy tắc chống độc quyền với mức phạt 11,8 tỷ đô

19:01:39 21/12/2022

Ủy ban Châu Âu - cơ quan điều hành của EU cho biết, đã phát hiện Meta vi phạm các quy tắc chống độc quyền của EU bằng cách bóp méo sự cạnh tranh trên thị trường quảng cáo trực tuyến. Meta có thể phải đối mặt với khoản tiền phạt lên tới ...

Không cần thăm dò, Musk nên sớm từ chức CEO Twitter

15:01:33 21/12/2022

Người dùng Twitter, các nhà đầu tư Tesla và chuyên gia phân tích trong ngành đều cho rằng Elon Musk nên sớm từ chức CEO Twitter

Đại lý Việt nhập iPhone 14 kiểu 'bia kèm lạc'

14:01:42 21/12/2022

Muốn nhập được các mẫu bán chạy như iPhone 14 Pro/Pro Max, các chuỗi đại lý bán lẻ ủy quyền của Apple bắt buộc phải nhập thêm hàng loạt phụ kiện đi kèm

Khai trương hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR tại Quần thể Di tích Cố đô Huế

09:38:18 21/12/2022

Sáng 20/12, tại Ngọ Môn, Đại Nội Huế, Trung tâm Bảo tồn Di tích Cố đô Huế đã tổ chức Lễ Khai trương Hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR

'Dở khóc dở cười' với tính năng trợ giúp người bị tai nạn ôtô của Apple

09:37:54 21/12/2022

Tính năng phát hiện tai nạn ôtô mới ra mắt trên Apple iPhone và Apple Watch sẽ tự động tìm kiếm sự trợ giúp từ bộ phận cấp cứu khi có nguy cơ xảy ra tai nạn