Lượt xem độc hại tăng mạnh, Facebook đổ cho lỗi hệ thống
Một nhóm kỹ sư Facebook phát hiện sự cố lớn trong thuật toán xếp hạng, khiến người dùng mạng xã hội này thấy nhiều nội dung độc hại hơn trên News Feed 6 tháng qua.
Facebook dùng kỹ thuật “giáng cấp” để hạn chế nội dung có vấn đề trên nền tảng của mình, song sẽ ra sao nếu hệ thống này bị hỏng?
Theo The Verge, các kỹ sư của công ty lần đầu phát hiện sự cố vào tháng 10/2021 khi tin sai sự thật đột nhiên tăng mạnh trên News Feed. Thay vì đàn áp các bài viết từ những người chuyên đăng tin giả, News Feed lại phát tán mạnh hơn, khiến lượt xem tăng 30% trên toàn cầu. Do không thể tìm thấy gốc rễ vấn đề, kỹ sư tiếp tục đứng ngoài chứng kiến sự việc cho tới khi sự cố được khắc phục vào ngày 11/3.
Video đang HOT
Ngoài các bài viết được xác thực bằng bên thứ ba, cuộc điều tra nội bộ của Facebook còn cho thấy, trong quá trình gặp lỗi, các hệ thống của Facebook không thể giáng cấp các nội dung khỏa thân, bạo lực. Nội bộ Facebook gắn nhãn SEV cấp độ một cho sự cố – nhãn chỉ dành cho các khủng hoảng kỹ thuật được ưu tiên, chẳng hạn việc Nga chặn Facebook và Instagram thời gian gần đây.
Phát ngôn viên Facebook Joe Osborne xác nhận sự cố với The Verge. Theo tài liệu, sự cố kỹ thuật xuất hiện từ năm 2019 nhưng không gây tác động thấy rõ cho đến tháng 10/2021. “Chúng tôi truy vết được lỗi phần mềm và áp dụng bản vá cần thiết”, ông Osborne nói, đồng thời cho biết nó không gây ảnh hưởng về lâu dài đến các phép đo của mạng xã hội.
Trong nhiều năm, Facebook dùng biện pháp giáng cấp để cải thiện chất lượng News Feed. Nó được dùng trong các tình huống như chiến tranh, tranh cãi chính trị. Tuy nhiên, công ty không công khai về tác động của nó tới những gì mà người dùng nhìn thấy trên News Feed của họ.
Lãnh đạo Facebook thường xuyên “khoe” hệ thống AI tốt lên theo thời gian khi chủ động phát hiện những nội dung như phát ngôn thù địch, nhấn mạnh tầm quan trọng của công nghệ trong quản trị nội dung quy mô lớn. Năm 2021, Facebook cho biết, bắt đầu giáng cấp tất cả nội dung chính trị trên bảng tin. Đây là một phần trong kế hoạch của CEO Mark Zuckerberg nhằm đưa ứng dụng Facebook trở lại như lúc ban đầu.
Google thay đổi thuật toán, hạn chế nội dung khiêu dâm khi tìm kiếm
Alphabet, công ty mẹ của Google, cho biết năm ngoái họ đã loại bỏ hơn 30% kết quả độc hại khi người dùng tìm kiếm với các từ khóa liên quan tuổi vị thành niên, dân tộc, sở thích tình dục và giới tính.
Tulsee Doshi, Giám đốc sản phẩm của đơn vị Trí tuệ nhân tạo (A.I) có trách nhiệm thuộc Google, nói rằng gã khổng lồ tìm kiếm đã đưa vào sử dụng phần mềm A.I mới, BERT, có khả năng diễn giải tốt hơn những yêu cầu tìm kiếm khó hiểu hay chung chung của người dùng.
"Trước đây, có một tập hợp các kết quả bị tình dục hoá quá mức", Doshi nói và cho rằng những kết quả gợi ý đó có thể khiến người dùng bị sốc.
Năm 2019, diễn viên người Mỹ Natalie Morales gõ từ khóa tìm kiếm "Latina teen" (thanh thiếu niên Latinh) trên Google và nhận được tất cả các kết quả đều liên quan đến nội dung khiêu dâm. Trong bài đăng trên Twitter khi đó, Morales cho biết, khi tìm kiếm hình ảnh cho bài thuyết trình, cô nhận thấy kết quả đối lập của từ khóa "teen". Vì vậy, nữ diễn viên đã kêu gọi Google tiến hành điều tra.
Gã khổng lồ công nghệ Mỹ đã dành nhiều năm để giải quyết phản hồi của người dùng về các nội dung xúc phạm trong các công cụ quảng cáo, cũng như kết quả tìm kiếm của những từ khóa như "hot" (nóng) và "ceo" (giám đốc).
Năm 2013, Tiến sĩ Safiya Noble, trong bài viết đăng trên tạp chí, đã chỉ ra rằng với cụm từ "Black girls" (những cô gái da đen), các kết quả tìm kiếm Google trả ra mang tính tình dục hoá và xu hướng phân biệt chủng tộc, dù không hề có từ khoá về "tình dục", hay "khiêu dâm" nào gắn kèm. Sau đó, công ty đã loại bỏ các kết quả độc hại khi người dùng tìm kiếm "Black girls".
Google cũng cho biết, trong những tuần tới họ có thể sử dụng thêm một A.I khác có tên MUM để phát hiện và đưa ra hỗ trợ tốt hơn liên quan các câu hỏi về tự tử, bạo lực gia đình, tấn công tình dục và lạm dụng chất kích thích.
Chẳng hạn, MUM sẽ có khả năng nhận biết truy vấn liên quan các địa điểm nhảy cầu tự vẫn, thay vì trả kết quả địa điểm tham quan du lịch và hỗ trợ các tìm kiếm dài hơn kiểu như "tại sao anh ta tấn công tôi khi tôi nói không yêu anh ấy", hoặc "những cách tự sát phổ biến nhất", Google cho biết.
Xoá ngay ứng dụng chỉnh ảnh này khỏi điện thoại nếu bạn không muốn "bay màu" tài khoản Facebook Ứng dụng này đã nhận được hơn 100.000 lượt tải về, nếu bạn nằm trong số đó hãy gỡ ngay để không bị mất tài khoản Facebook. Một ứng dụng phổ biến trong cửa hàng Google Play có tên "Craftsart Cartoon Photo Tools" đã đạt được hơn 100.000 lượt cài đặt - nhưng thật không may cho những người đam mê ứng dụng,...