Thuật toán của YouTube đã tiếp tay cho những kẻ theo thuyết âm mưu chỉ trích người chụp ảnh hố đen
Phải đến khi gặp phải bão chỉ trích từ người dùng internet, YouTube mới bắt đầu sửa chữa sai lầm của mình.
Khi tin tức về vai trò của Katie Bouman trong việc ghi lại bức ảnh đầu tiên về hố đen vũ trụ bắt đầu lan ra vào đầu tuần trước, một nhóm cư dân mạng đã thêu dệt nên một câu chuyện chỉ trích Bouman khi hưởng lợi từ thành quả của nam giới trong nhóm EHT ( Event Horizon Telescope).
Điều đáng nói là những lập luận sai trái này lại nhanh chóng lan ra trên mạng xã hội và YouTube. Vào mấy ngày trước, mọi người khi tìm kiếm về cái tên Bouman trên YouTube có thể nhận thấy kết quả hàng đầu là một đoạn video đến từ người dùng với cái tên Mr. Obvious.
Chỉ vài giờ sau khi hình ảnh về hố đen được công bố, đoạn video xuyên tạc của Mr. Obvious đã hiển thị lên đầu và được hàng nghìn lượt view.
Đoạn video này có tựa đề “ Phụ nữ chỉ đóng góp 6% công sức nhưng nhận được 100% thành quả” cho rằng một người đàn ông với cái tên Andrew Chael đã tự mình viết 850.000 dòng code cho dự án EHT, trong khi Bouman chỉ viết vài nghìn dòng code. Đáng chú ý hơn các tag của đoạn video này bao gồm cả những cụm từ như “thành quả bị đánh cắp” và “sự thật về phụ nữ”.
Khi câu chuyện này dần dần lan ra đến nhiều người, chính ông Chael đã phải công khai bác bỏ thuyết âm mưu này trên tài khoản Twitter của mình.
Dòng tweet của Chael cho biết: “Ngoài ra tôi không viết đến “850.000 dòng code” – phần nhiều các dòng code đó đã được đưa lên GitHub dưới dạng các file model. Phần mềm hiện tại có khoảng 68.000 dòng code, và tôi không quan tâm mình viết được bao nhiêu trong số đó.”
Nhưng ngay cả sau khi Chael đã nỗ lực sửa chữa lại nhận định sai lầm này, thuật toán của YouTube vẫn đưa đoạn video của Mr. Obvious lên hàng đầu thêm nhiều giờ nữa. Thậm chí điều này xảy ra khi chính bản thân YouTube cũng thừa nhận câu chuyện trong đoạn video là sai sự thật. Sau đó, trong phần bình luận của mình, Mr. Obvious thừa nhận Chael không viết 850.000 dòng code đó, nhưng vẫn tiếp tục phủ nhận đóng góp của cô Bouman trong dự án này.
Mr. Obvious viết: “ Dường như Andrew Chael không viết 850.000 dòng code đó và không rõ ông đã viết bao nhiêu dòng code, 500.000 dòng code có vẻ đúng hơn, còn khoảng 350.000 dòng code còn lại không rõ ai đã viết, và nếu tính cả chỗ đó, sẽ là hợp lý khi có nghĩa là cô ấy đã viết khoảng 14% dòng code. Giả dụ như vậy, điều đó không thay đổi thực tế rằng, 80% các nhà khoa học có liên quan đến dự án là nam giới. Tuy nhiên, tôi chỉ muốn sửa lại cho đúng.”
Video đang HOT
Các tag có liên quan đến đoạn video của Mr. Obvious.
Vào ngày 12 tháng Tư, một số người dùng Twitter bắt đầu chỉ trích YouTube về việc quảng bá video của Mr. Obvious. Cuối cùng họ buộc phải dừng hiển thị kết quả về video này. Dựa trên các tuyên bố công khai được đưa ra vào ngày thứ Sáu, thay đổi này đến sau khi YouTube thêm cô Bouman vào danh sách các chủ đề tìm kiếm liên quan đến tin tức.
Điều này cũng có nghĩa YouTube sẽ hiển thị các nguồn tin được xác thực cho các kết quả hàng đầu khi người dùng tìm kiếm về các chủ đề có liên quan đến tin tức, đồng thời cũng hạ bậc ưu tiên với các nội dung không được xác thực ví dụ như video của Mr. Obvious. Trong khi đó, thông thường thuật toán của YouTube sẽ tìm kiếm các video mới nhất theo từ khóa.
Sau khi bị người dùng internet phản ứng, YouTube đã hiển thị các đoạn video từ những nguồn tin xác thực trong kết quả tìm kiếm về cô Bouman.
Phát ngôn viên của YouTube cho biết với Business Insider:
“ Chúng tôi đã thực hiện một số bước đi nhằm giải quyết vấn đề này, bao gồm việc đưa ra nội dung có căn cứ hơn cho những người tìm kiếm các chủ đề có liên quan đến tin tức, bắt đầu giảm các đề xuất về những nội dung nghi vấn và hiển thị các bảng thông tin với nhiều nguồn tin về nơi người dùng có thể kiểm tra nhanh thông tin. Chúng tôi đã thấy kết quả là các tiến bộ có ý nghĩa và cam kết sẽ thực hiện nhiều cải tiến trong tương lai.”
Tham khảo Business Insider
Video 'bẩn' nhan nhản và ở lì trên YouTube
Sau một phim hoạt hình, có 45% khả năng một trong số 10 video tiếp theo được đề xuất của YouTube có nội dung 'bẩn' chờ đợi một đứa trẻ.
Đây là một tình huống mà bất kỳ cha mẹ nào cũng có thể sẽ gặp phải: Con bạn bắt đầu xem phim về heo Peppa vui nhộn, nhưng sau đó lại bị cuốn vào bộ phim về heo Peppa tự tử hay hút thuốc.
Đó không phải trường hợp cá biệt. Có rất nhiều video trên YouTube nhìn qua tưởng vô hại bởi chúng được ngụy trang dưới vỏ bọc nhân vật hoạt hình mà lũ trẻ yêu thích như heo Peppa, công chúa Elsa (Frozen) hay người Nhện; nhưng những hình ảnh máu, bạo lực, ngôn ngữ không phù hợp lại "ẩn nấp" giữa những video đó.
Trong những năm gần đây, YouTube, với kho video dồi dào, nổi lên như một phương thức thay thế TV truyền thống đối với những chương trình dành cho trẻ em. Phần lớn video trên YouTube đều vô hại, mang tính giải trí và giáo dục. Thế nhưng, cũng có một số lượng không nhỏ video chứa nội dung không phù hợp nhắm vào trẻ em độ tuổi 5-6 tuổi.
Nói cách khác, những video ấy - vốn đang dành cho trẻ dưới 6 tuổi - nếu theo Hiệp hội điện ảnh Mỹ (MPAA) thì phải được gán nhãn PG (trẻ em xem có sự giám sát của cha mẹ) hay PG-13 (cấm trẻ em dưới độ tuổi 13).
Rủi ro cho sự phát triển của trẻ nhỏ
YouTube từ giữa năm 2016 cập nhật tính năng tự động phát, nghĩa là khi hết video, thay vì dừng hoặc phát lại như trước kia thì sẽ phát tiếp video mới từ đề xuất dựa trên thói quen, sở thích của người dùng.
Mô phỏng lại thói quen xem video của một đứa trẻ: xem một phim hoạt hình phù hợp với lứa tuổi, sau đó nhấp ngẫu nhiên vào video được đề xuất bởi YouTube, chúng tôi phát hiện ra có 45% khả năng một trong số 10 video tiếp theo được đề xuất của YouTube có nội dung "bẩn". Nghiên cứu trên 133.000 video, chúng tôi nhận thấy có nhiều video không phù hợp xuất hiện hơn hai năm nay và có đến hàng triệu, thậm chí là hàng trăm triệu lượt xem.
Không dừng lại ở đó, nếu một đứa trẻ xem phim hoạt hình, từ 10 video đề xuất của YouTube, xác suất là 5,8% để đứa bé đó xem phải video có nội dung xấu hoặc video có gắn nhãn R (phim không dành cho trẻ dưới 16 tuổi) hoặc NC-17 (phim không dành cho trẻ dưới 17 tuổi).
Hiển nhiên vì lý do bảo mật, YouTube không công bố thuật toán liên quan đến tự động phát hay đề xuất các video của mình. Tuy nhiên, bằng cách nào đấy, chủ nhân của những video có nội dung không phù hợp với trẻ nhỏ này lại vẫn có thể đánh lừa được thuật toán của máy móc.
Xét về rủi ro cho sự phát triển của trẻ nhỏ và xu hướng sử dụng YouTube ngày càng tăng, đây là một vấn đề đáng lo ngại.
YouTube cần quyết liệt và để tâm hơn
Vấn đề của YouTube trong việc kiểm soát video dành cho người xem nhỏ tuổi được truyền thông và xã hội lưu tâm vài năm qua. Trong nỗ lực cung cấp trải nghiệm trực tuyến an toàn hơn trẻ nhỏ, YouTube đã ra mắt ứng dụng YouTube Kids tích hợp các chế độ tùy chọn giúp phụ huynh kiểm soát trải nghiệm của trẻ, cấp quyền điều khiển cho phụ huynh. Với YouTube Kids, cha mẹ được quyền quyết định xem con cái họ được phép xem gì và xem trong bao lâu.
YouTube Kids tuyên bố sẽ áp dụng các nguyên tắc kiểm soát nghiêm ngặt hơn, loại bỏ quảng cáo không phù hợp ra khỏi bất kỳ video nào người dùng báo xấu và những bình luận không phù hợp trên những video có hình ảnh trẻ em.
Đáng tiếc thay, dù đã cố gắng để hạn chế, những nội dung không phù hợp vẫn hiển thị trên nền tảng video dành cho trẻ em này. Lý do được đưa ra là khó khăn ở khâu kiểm duyêt.
Không dùng thuật toán, YouTube Kids sàng lọc video thủ công. Các nhân viên sẽ kiểm tra từng video được đăng tải để xem nó có phù hợp trẻ nhỏ hay không. Nếu có nội dung phản cảm hay bạo lực, nhân viên sẽ "gắn cờ" giới hạn độ tuổi; nếu không có cờ thì nhiều khả năng video ấy sẽ xuất hiện trên kênh cho trẻ nhỏ. Người dùng trong quá trình xem nếu thấy video nào nghi ngờ chứa nội dung không phù hợp với trẻ nhỏ mà chưa gắn cờ có thể báo cáo lên hệ thống YouTube.
Và đó là thất bại của YouTube Kids khi lệ thuộc vào quy trình thủ công trong khi số lượng video là khổng lồ.
Tính đến 15/1/2019, chỉ có 10,6% trong số 710 video "bẩn" được kiểm duyệt thủ công bị YouTube xóa khỏi trang. Trong số video có nội dung xấu vẫn tồn tại chỉ có 8% được "gắn cờ" giới hạn độ tuổi.
Đánh giá của chúng tôi về cách YouTube đang làm để hạn chế nội dung xấu cho thấy nền tảng này đang đánh vật để giải quyết vấn đề: Tính đến 15/1/2019, chỉ có 10,6% trong số 710 video "bẩn" được kiểm duyệt thủ công bị YouTube xóa khỏi trang. Trong số video có nội dung xấu vẫn tồn tại chỉ có 8% được "gắn cờ" giới hạn độ tuổi và có thời gian tồn tại trung bình trên trang là 794 ngày (tương đương khoảng 2 năm 2 tháng).
Rõ ràng, YouTube cần phải quyết liệt và để tâm nhiều hơn nữa để giải quyết vấn đề kiểm soát nội dung dành cho trẻ nhỏ một cách triệt để. Kiểm duyệt thủ công hay dựa vào báo cáo từ phía người dùng đang cho thấy là một biện pháp không hiệu quả.
YouTube không phải lựa chọn duy nhất
YouTube cần tăng cường phân loại video tự động. Nền tảng này - với đầy đủ hạ tầng, kỹ sư, chuyên gia và đầy đủ các dữ liệu cần thiết - hoàn toàn có thể xây dựng được hệ thống phân loại với độ chính xác cao. Nhóm nghiên cứu của chúng tôi đã thử xây dựng một công cụ như vậy và nó cho độ phân loại chính xác đến 82%.
Trước mắt, YouTube nên đặt quyền kiểm soát vào tay người dùng của mình bằng cách triển khai một tính năng cho phép họ có thể chặn bất kỳ video hoặc kênh cụ thể nào được cho là đáng lo ngại.
Đương nhiên không thể tin tưởng hoàn toàn vào YouTube. Cha mẹ cần chú ý nhiều hơn đến việc con em mình thực sự đang xem những gì trên mạng bởi YouTube chỉ là một trong số những kênh con bạn tìm đến để xem video mà thôi.
Bước đầu, cha mẹ nên chỉ cho phép con mình xem video bằng ứng dụng YouTube Kids đồng thời bật tính năng chế độ hạn chế và tắt tính năng tìm kiếm.
Tuy nhiên, vì các video có nội dung không phù hợp cũng có thể xuất hiện ngay cả khi bật chế độ hạn chế, các bậc cha mẹ cũng nên dành thời gian xem video với con mình để biết được nội dung bọn trẻ thường xem, từ đó có thể ngăn chặn kịp thời bất kỳ video nào có nội dung không phù hợp. Một cách khác để kiểm soát những gì trẻ thực sự đang xem là tạo danh sách phát chỉ bao gồm các video an toàn với trẻ.
Không cha mẹ nào muốn con mình một ngày nào đó tình cờ tìm được video hướng dẫn cách tự tử trên YouTube, điều mà thuật toán của nền tảng này đang cho phép. Một điều cha mẹ cần thấu hiểu trong thời đại ngày nay, YouTube không phải là lựa chon duy nhất cho con trẻ giải trí.
Theo Zing
Làm thế nào để chặn video trên Youtube? Youtube thường gợi ý những video đáng xem theo dựa vào sở thích hay xu hướng xem của người dùng. Tuy nhiên nhiều lúc các gợi ý này lại khá khó chịu. Ảnh minh họa. Hiện nay thuật toán của Youtube sẽ hiển thị gợi ý cho người xem các video có thể phù hợp với sở thích của người dùng, hoặc những...