Video ‘bẩn’ nhan nhản và ở lì trên YouTube

Sau một phim hoạt hình, có 45% khả năng một trong số 10 video tiếp theo được đề xuất của YouTube có nội dung ‘bẩn’ chờ đợi một đứa trẻ.

Đây là một tình huống mà bất kỳ cha mẹ nào cũng có thể sẽ gặp phải: Con bạn bắt đầu xem phim về heo Peppa vui nhộn, nhưng sau đó lại bị cuốn vào bộ phim về heo Peppa tự tử hay hút thuốc.

Đó không phải trường hợp cá biệt. Có rất nhiều video trên YouTube nhìn qua tưởng vô hại bởi chúng được ngụy trang dưới vỏ bọc nhân vật hoạt hình mà lũ trẻ yêu thích như heo Peppa, công chúa Elsa (Frozen) hay người Nhện; nhưng những hình ảnh máu, bạo lực, ngôn ngữ không phù hợp lại “ẩn nấp” giữa những video đó.

Trong những năm gần đây, YouTube, với kho video dồi dào, nổi lên như một phương thức thay thế TV truyền thống đối với những chương trình dành cho trẻ em. Phần lớn video trên YouTube đều vô hại, mang tính giải trí và giáo dục. Thế nhưng, cũng có một số lượng không nhỏ video chứa nội dung không phù hợp nhắm vào trẻ em độ tuổi 5-6 tuổi.

Nói cách khác, những video ấy – vốn đang dành cho trẻ dưới 6 tuổi – nếu theo Hiệp hội điện ảnh Mỹ (MPAA) thì phải được gán nhãn PG (trẻ em xem có sự giám sát của cha mẹ) hay PG-13 (cấm trẻ em dưới độ tuổi 13).

Rủi ro cho sự phát triển của trẻ nhỏ

YouTube từ giữa năm 2016 cập nhật tính năng tự động phát, nghĩa là khi hết video, thay vì dừng hoặc phát lại như trước kia thì sẽ phát tiếp video mới từ đề xuất dựa trên thói quen, sở thích của người dùng.

Mô phỏng lại thói quen xem video của một đứa trẻ: xem một phim hoạt hình phù hợp với lứa tuổi, sau đó nhấp ngẫu nhiên vào video được đề xuất bởi YouTube, chúng tôi phát hiện ra có 45% khả năng một trong số 10 video tiếp theo được đề xuất của YouTube có nội dung “bẩn”. Nghiên cứu trên 133.000 video, chúng tôi nhận thấy có nhiều video không phù hợp xuất hiện hơn hai năm nay và có đến hàng triệu, thậm chí là hàng trăm triệu lượt xem.

Không dừng lại ở đó, nếu một đứa trẻ xem phim hoạt hình, từ 10 video đề xuất của YouTube, xác suất là 5,8% để đứa bé đó xem phải video có nội dung xấu hoặc video có gắn nhãn R (phim không dành cho trẻ dưới 16 tuổi) hoặc NC-17 (phim không dành cho trẻ dưới 17 tuổi).

Hiển nhiên vì lý do bảo mật, YouTube không công bố thuật toán liên quan đến tự động phát hay đề xuất các video của mình. Tuy nhiên, bằng cách nào đấy, chủ nhân của những video có nội dung không phù hợp với trẻ nhỏ này lại vẫn có thể đánh lừa được thuật toán của máy móc.

Xét về rủi ro cho sự phát triển của trẻ nhỏ và xu hướng sử dụng YouTube ngày càng tăng, đây là một vấn đề đáng lo ngại.

YouTube cần quyết liệt và để tâm hơn

Vấn đề của YouTube trong việc kiểm soát video dành cho người xem nhỏ tuổi được truyền thông và xã hội lưu tâm vài năm qua. Trong nỗ lực cung cấp trải nghiệm trực tuyến an toàn hơn trẻ nhỏ, YouTube đã ra mắt ứng dụng YouTube Kids tích hợp các chế độ tùy chọn giúp phụ huynh kiểm soát trải nghiệm của trẻ, cấp quyền điều khiển cho phụ huynh. Với YouTube Kids, cha mẹ được quyền quyết định xem con cái họ được phép xem gì và xem trong bao lâu.

YouTube Kids tuyên bố sẽ áp dụng các nguyên tắc kiểm soát nghiêm ngặt hơn, loại bỏ quảng cáo không phù hợp ra khỏi bất kỳ video nào người dùng báo xấu và những bình luận không phù hợp trên những video có hình ảnh trẻ em.

Đáng tiếc thay, dù đã cố gắng để hạn chế, những nội dung không phù hợp vẫn hiển thị trên nền tảng video dành cho trẻ em này. Lý do được đưa ra là khó khăn ở khâu kiểm duyêt.

Không dùng thuật toán, YouTube Kids sàng lọc video thủ công. Các nhân viên sẽ kiểm tra từng video được đăng tải để xem nó có phù hợp trẻ nhỏ hay không. Nếu có nội dung phản cảm hay bạo lực, nhân viên sẽ “gắn cờ” giới hạn độ tuổi; nếu không có cờ thì nhiều khả năng video ấy sẽ xuất hiện trên kênh cho trẻ nhỏ. Người dùng trong quá trình xem nếu thấy video nào nghi ngờ chứa nội dung không phù hợp với trẻ nhỏ mà chưa gắn cờ có thể báo cáo lên hệ thống YouTube.

Và đó là thất bại của YouTube Kids khi lệ thuộc vào quy trình thủ công trong khi số lượng video là khổng lồ.

Tính đến 15/1/2019, chỉ có 10,6% trong số 710 video “bẩn” được kiểm duyệt thủ công bị YouTube xóa khỏi trang. Trong số video có nội dung xấu vẫn tồn tại chỉ có 8% được “gắn cờ” giới hạn độ tuổi.

Đánh giá của chúng tôi về cách YouTube đang làm để hạn chế nội dung xấu cho thấy nền tảng này đang đánh vật để giải quyết vấn đề: Tính đến 15/1/2019, chỉ có 10,6% trong số 710 video “bẩn” được kiểm duyệt thủ công bị YouTube xóa khỏi trang. Trong số video có nội dung xấu vẫn tồn tại chỉ có 8% được “gắn cờ” giới hạn độ tuổi và có thời gian tồn tại trung bình trên trang là 794 ngày (tương đương khoảng 2 năm 2 tháng).

Rõ ràng, YouTube cần phải quyết liệt và để tâm nhiều hơn nữa để giải quyết vấn đề kiểm soát nội dung dành cho trẻ nhỏ một cách triệt để. Kiểm duyệt thủ công hay dựa vào báo cáo từ phía người dùng đang cho thấy là một biện pháp không hiệu quả.

YouTube không phải lựa chọn duy nhất

YouTube cần tăng cường phân loại video tự động. Nền tảng này – với đầy đủ hạ tầng, kỹ sư, chuyên gia và đầy đủ các dữ liệu cần thiết – hoàn toàn có thể xây dựng được hệ thống phân loại với độ chính xác cao. Nhóm nghiên cứu của chúng tôi đã thử xây dựng một công cụ như vậy và nó cho độ phân loại chính xác đến 82%.

Trước mắt, YouTube nên đặt quyền kiểm soát vào tay người dùng của mình bằng cách triển khai một tính năng cho phép họ có thể chặn bất kỳ video hoặc kênh cụ thể nào được cho là đáng lo ngại.

Đương nhiên không thể tin tưởng hoàn toàn vào YouTube. Cha mẹ cần chú ý nhiều hơn đến việc con em mình thực sự đang xem những gì trên mạng bởi YouTube chỉ là một trong số những kênh con bạn tìm đến để xem video mà thôi.

Bước đầu, cha mẹ nên chỉ cho phép con mình xem video bằng ứng dụng YouTube Kids đồng thời bật tính năng chế độ hạn chế và tắt tính năng tìm kiếm.

Tuy nhiên, vì các video có nội dung không phù hợp cũng có thể xuất hiện ngay cả khi bật chế độ hạn chế, các bậc cha mẹ cũng nên dành thời gian xem video với con mình để biết được nội dung bọn trẻ thường xem, từ đó có thể ngăn chặn kịp thời bất kỳ video nào có nội dung không phù hợp. Một cách khác để kiểm soát những gì trẻ thực sự đang xem là tạo danh sách phát chỉ bao gồm các video an toàn với trẻ.

Không cha mẹ nào muốn con mình một ngày nào đó tình cờ tìm được video hướng dẫn cách tự tử trên YouTube, điều mà thuật toán của nền tảng này đang cho phép. Một điều cha mẹ cần thấu hiểu trong thời đại ngày nay, YouTube không phải là lựa chon duy nhất cho con trẻ giải trí.

Theo Zing