Thuật toán xếp nội dung khiến Facebook lao đao
Cựu quản lý Facebook tố thuật toán của công ty xếp nội dung dựa trên sự tương tác, khiến bài đăng g.ây s.ốc có thể được ưu tiên lên đầu News Feed.
Trong nhiều năm, bảng tin News Feed với nội dung được tối ưu hóa và đề xuất hợp lý là yếu tố giúp Facebook thành công và thu hút hàng tỷ người dùng trên thế giới. Thế nhưng, cựu nhân viên Frances Haugen công khai hàng loạt tài liệu nội bộ cho thấy những tác động của nền tảng với thanh thiếu niên, chia rẽ quốc gia và cho phép chủ nghĩa cực đoan phát triển. Tệ hơn, họ biết điều đó nhưng chọn cách phớt lờ vấn đề để bảo vệ lợi nhuận của mình.
Frances Haugen tại phiên điều trần trước Thượng viện Mỹ ngày 5/10.
Haugen có nhiều năm làm việc liên quan đến thuật toán và tự nhận có kiến thức nền tảng về “quản lý sản phẩm theo thuật toán”. Trong cuộc phỏng vấn với WSJ ngày 3/10 và phiên điều trần trước Thượng viện Mỹ ngày 5/10, bà liên tục nhấn mạnh thuật toán của Facebook được thiết kế để hiển thị cho người dùng những nội dung mà họ có nhiều khả năng tương tác nhất.
“Điều này gây ra nhiều vấn đề với Facebook, gồm thúc đẩy sự chia rẽ, thông tin sai lệch và nhiều nội dung độc hại khác”, Haugen nói. “Nếu làm cho thuật toán an toàn hơn, mọi người sẽ dành ít thời gian hơn trên nền tảng, cũng ít bấm vào quảng cáo hơn, Facebook sẽ kiếm được ít t.iền hơn”.
Theo giới quan sát, những tiết lộ mới về cơ chế hoạt động của thuật toán khiến Facebook sẽ ngày càng đ.ánh mất niềm tin đối với người dùng và các nhà đầu tư thời gian tới. “Các thuật toán trên Facebook sẽ không biến mất, nhưng có nhiều cách để cải thiện chúng”, một chuyên gia về thuật toán và AI nói với CNN . “Tuy nhiên, nó sẽ yêu cầu một thứ mà Facebook từ trước đến nay miễn cưỡng không muốn làm: Minh bạch hơn và cho người dùng quyền kiểm soát nhiều hơn”.
Thuật toán Facebook có gì?
Facebook mà người dùng đang trải nghiệm ngày nay – với luồng thông tin và quảng cáo được thuật toán chọn lọc liên tục – là mạng xã hội hoàn toàn khác so với những ngày đầu.
Năm 2004, khi Facebook lần đầu xuất hiện dành cho các sinh viên đại học, việc điều hướng đơn giản và tẻ nhạt hơn: Nếu muốn xem nội dung bạn bè chia sẻ, người dùng phải lần lượt truy cập từng hồ sơ của họ.
Điều này đã thay đổi từ năm 2006 khi Facebook giới thiệu News Feed – cung cấp thông tin của nhiều người cùng lúc. Từ đó, Facebook được cho là đã dùng các thuật toán để lọc nội dung mà người dùng đã xem trên News Feed.
Chris Cox, Giám đốc sản phẩm Facebook, hồi 2015 tiết lộ trên Time rằng việc kiểm duyệt và ưu tiên hiển thị rất cần thiết. Vì nếu không, người dùng sẽ bị quá tải khi vào News Feed với sự tràn ngập các đường link, status, ảnh, video… từ nhiều nguồn khác nhau. Các thông tin này cũng bị trôi rất nhanh, khiến họ có thể bỏ lỡ cập nhật mới của bạn bè, người thân..
Theo thời gian, thuật toán liên tục phát triển và người dùng cũng quen với cách trình bày nội dung của mạng xã hội.
Có thể tưởng tượng thuật toán gần giống với công thức nấu ăn, trong đó nguyên liệu là đầu vào và món ăn cuối cùng là đầu ra. Trên Facebook và các trang mạng xã hội khác, người dùng và hành động của họ – những gì họ chia sẻ, tương tác – là đầu vào. Còn những gì mạng xã hội hiển thị, dù là bài đăng từ bạn bè hay nội dung quảng cáo về sản phẩm nào đó, là kết quả đầu ra.
Ở mức tốt nhất, các thuật toán giúp cá nhân hóa nguồn cấp dữ liệu, giúp người dùng khám phá những người mới và nội dung phù hợp với sở thích của họ dựa trên hoạt động trước đó. Nhưng điều tồi tệ nhất, như Haugen và các chuyên gia khác chỉ ra, là nguy cơ khiến họ tiếp xúc với nội dung độc hại hoặc chứa thông tin sai lệch. Những nội dung này có thể giữ mọi người ở lại lâu hơn, từ đó giúp Facebook kiếm nhiều t.iền hơn bằng cách hiển thị nhiều quảng cáo hơn.
Video đang HOT
Nhiều thuật toán hoạt động phối hợp để tạo ra trải nghiệm mà người dùng đang thấy trên Facebook, Instagram và các nền tảng khác. “Sửa thuật toán là điều thực sự khó vì chúng đã trở thành một phần của những hệ thống phức tạp với nhiều đầu vào”, Hilary Ross, một chuyên gia của Đại học Harvard, nhận định.
Facebook cần minh bạch như thế nào?
Tuy nhiên, có nhiều cách để làm cho các quy trình mà Facebook đang thực hiện trở nên rõ ràng và cung cấp cho người dùng nhiều quyền hơn, cũng như được biết về cách thức chúng hoạt động. Theo Margaret Mitchell, chuyên gia về AI và là cựu nhân viên Google, người dùng cần biết chi tiết lý do tại sao họ nhìn thấy những gì đang hiển thị, như phản hồi các bài đăng, quảng cáo…
Theo Mitchell, Facebook có thể cho phép người dùng tùy chọn xem những thứ được tối ưu hóa cho mình, như tần suất muốn xem nội dung từ gia đình, bạn bè, hoặc hình ảnh em bé. “Tại sao không để người dùng kiểm soát chúng?”, bà đặt câu hỏi. “Minh bạch là chìa khóa, vì nó khuyến khích hành vi tốt từ các mạng xã hội”.
Sasha Costanza-Chock, Giám đốc nghiên cứu của Algorithmic Justice League, cho rằng cần tăng cường kiểm toán độc lập đối với các hoạt động của thuật toán. Các nhà nghiên cứu, nhà báo điều tra hoặc chuyên gia thuộc các cơ quan quản lý sẽ tham gia vào quy trình này, bởi họ có kiến thức và thẩm quyền để yêu cầu quyền truy cập vào các hệ thống thuật toán.
Tuy vậy, một số chuyên gia đ.ánh giá, rào cản khiến Facebook không thay đổi thuật toán là mạng xã hội này quá tập trung vào tầm quan trọng của sự tương tác hoặc thời gian người dùng dành cho việc cuộn, nhấp chuột vào các bài đăng và quảng cáo trên nền tảng. “Sẽ rất khó thay đổi, nó liên quan đến cảm giác người dùng khi sử dụng Facebook, chứ không hẳn chỉ là thời gian họ gắn bó trên đó”, James Mickens, Giáo sư khoa học máy tính tại Harvard, nhận xét.
Dù hy vọng Facebook điều chỉnh thuật toán nhiều hơn để hướng tới lợi ích công cộng, ông băn khoăn: “Điều gì sẽ thuyết phục Facebook và các công ty tương tư bắt đầu thay đổi theo hướng này?”.
Trong khi đó, theo Haugen, về cơ bản, Facebook quyết định về những nội dung họ muốn người dùng xem, nhưng giữ bí mật về quyết định đó với công chúng vì thay đổi thuật toán có thể ảnh hưởng đến thu nhập của công ty.
Kara Alaimo, Phó giáo sư tại Trường Truyền thông Lawrence Herbert tại Đại học Hofstra, nhận định: “Nếu không thể từ bỏ nền tảng này ngay lập tức – điều mà thực tế khó xảy ra, đã đến lúc phải nghĩ cách bảo vệ bản thân và người thân, cũng như bắt đầu dựa vào nguồn khác cho niềm vui và sự sáng tạo – như công viên, sở thích, bạn bè… Đây có lẽ là cách duy nhất để khiến công ty nghiêm túc xem xét các mối đe dọa mà họ đang gây ra cho người dùng và nỗ lực khắc phục chúng”.
Facebook đang quá phụ thuộc vào thuật toán AI?
Facebook rơi vào khủng hoảng vì chạy theo lợi nhuận, lạm dụng các thuật toán khuếch đại những gì tiêu cực nhất trên mạng xã hội để tối đa hóa lượng tương tác.
Đứng trước Quốc hội Mỹ ngày 5.10, cựu nhân viên Facebook Frances Haugen chỉ trích các thuật toán và thiết kế nền tảng của Facebook là nguyên nhân khiến nội dung kích động thù hận, tin giả tràn lan trên mạng xã hội. Lời khai của Haugen có nhiều điểm tương đồng với những phát hiện từ cuộc điều tra của MIT Technology Review (tạp chí của Viện Công nghệ Massachusetts) vào đầu năm nay.
Thuật toán Facebook hoạt động như thế nào?
Thực tế Facebook có hàng trăm, hàng nghìn thuật toán để nhắm mục tiêu quảng cáo và xếp hạng nội dung. Một số thuật toán nhận biết sở thích của người dùng và đẩy những bài đăng phù hợp lên bảng tin của họ. Các thuật toán khác lại có nhiệm vụ phát hiện những nội dung vi phạm điều khoản. Nhìn chung, chúng được gọi là thuật toán học máy (machine learning).
Rất khó kiểm soát nội dung trên Facebook
Khác với thuật toán truyền thống, thuật toán học máy được đào tạo bằng cách phân tích dữ liệu đầu vào, sau đó nó có thể tự đưa ra các quyết định riêng. Ví dụ, một thuật toán được huấn luyện nhờ phân tích dữ liệu nhấp chuột vào quảng cáo sẽ nghiệm ra rằng phụ nữ xem quảng cáo quần tập yoga nhiều hơn đàn ông. Cuối cùng, mô hình học máy đó sẽ phân phát những quảng cáo tương tự cho phụ nữ nhiều hơn.
Nhờ lượng người dùng khổng lồ, thuật toán có thể phân loại các nhóm đối tượng rất chi tiết, chẳng hạn "phụ nữ từ 25 - 34 t.uổi thường thích các trang liên quan đến yoga". Nhắm mục tiêu càng chi tiết, các hãng quảng cáo càng dễ tạo nhiều lợi nhuận hơn.
Tương tự, Facebook cũng có thể đào tạo những thuật toán để dự đoán từng nhóm đối tượng sẽ thích loại bài đăng nào và tiến hành xếp hạng. Ví dụ bạn thích xem ảnh thú nuôi thì các bài đăng như vậy sẽ được đẩy lên cao hơn trên News Feed của bạn.
Ai điều hành thuật toán Facebook?
Không có bộ phận nào phụ trách toàn bộ hệ thống xếp hạng nội dung trên Facebook, thay vào đó, mỗi nhóm kỹ sư đều có mục tiêu riêng, có nhóm xây dựng mô hình học máy để phát hiện nội dung xấu, có nhóm phụ trách chạy quảng cáo...
Công ty phát triển một bộ công cụ gọi là FBLearner Flow giúp các kỹ sư không có kinh nghiệm về học máy có thể phát triển bất cứ mô hình nào theo ý họ. Khi một mô hình không có hiệu quả, mức độ tương tác không cao, họ sẽ loại bỏ ngay.
Facebook ảnh hưởng tiêu cực đến thanh thiếu niên
Vài nhân viên Facebook cho rằng đây là một phần lý do tại sao Facebook không thể kiểm soát nội dung trên nền tảng, bởi các nhóm kỹ sư có mục tiêu riêng, cạnh tranh nhau, còn hệ thống ngày càng phức tạp đến nỗi không ai đủ sức theo dõi từng thành phần riêng lẻ nữa.
Facebook có thực sự ảnh hưởng đến sức khỏe tinh thần của t.rẻ e.m?
Một nhóm nghiên cứu của Facebook từng phát hiện những người dùng hay đăng bài viết u sầu, buồn bã thì sẽ tương tác với nội dung tiêu cực nhiều hơn và rơi vào vòng luẩn quẩn không lối thoát.
Nhóm này đề xuất lãnh đạo thay đổi thuật toán. Một người cho biết: "Câu hỏi dành cho lãnh đạo là: Chúng ta có nên tối ưu hóa tương tác khi thấy ai đó đang trong trạng thái dễ tổn thương hay không?".
Mark Zuckerberg bị tố chỉ quan tâm lợi nhuận
Nhưng đề xuất của họ bị phớt lờ. Mức lương của nhân viên Facebook dựa vào đ.ánh giá hiệu suất làm việc cũng như các dự án mà họ hoàn thành, vậy nên họ nhanh chóng học được cách bỏ qua những điều tiêu cực, tiếp tục làm theo chỉ thị từ cấp trên.
Tại sao việc xếp hạng nội dung lại là nguồn cơn gây kích động thù hận?
Các mô hình học máy giúp tăng tối đa tương tác, mà những bài có nội dung tranh cãi, thông tin sai lệch và cực đoan lại thu hút nhiều lượt tương tác nhất.
Điều này làm bùng phát những căng thẳng chính trị. Trường hợp tiêu biểu nhất là tin giả trên Facebook về nhóm thiểu số Hồi giáo Rohingya ở Myanmar đã khiến xung đột tôn giáo leo thang tại đất nước này.
Facebook không chỉ dung túng cho các nhóm cực đoan mà còn quảng bá những nhóm này tới người dùng. 64% người tham gia các nhóm cực đoan sau khi dùng tính năng đề xuất nhóm hay tính năng Khám phá của Facebook.
Năm 2017, Chris Cox - giám đốc sản phẩm của Facebook thành lập một nhóm nhân viên để tìm hiểu xem việc tối đa hóa tương tác của người dùng có góp phần vào sự phân cực chính trị hay không, rồi nhận thấy đúng là có mối tương quan giữa hai thành tố. Họ đưa ra một s.ố đ.ề xuất giải quyết vấn đề nhưng không được thực hiện, cuối cùng nhóm này giải tán.
Cựu nhân viên Frances Haugen
Một nhà nghiên cứu AI, nhân viên cũ của Facebook cho biết mình đã tiến hành nhiều nghiên cứu tương tự, nhưng kết quả chỉ có một: các mô hình tối đa hóa tương tác làm tăng sự phân cực, và các mô hình học máy khiến người dùng có quan điểm ngày càng cực đoan hơn.
Cựu nhân viên Frances Haugen nói rằng hiện tượng này còn tồi tệ hơn ở những khu vực không nói tiếng Anh, vì Facebook quá phụ thuộc vào các mô hình AI để tự động hóa việc kiểm duyệt nội dung trên toàn cầu.
Khi chiến tranh nổ ra ở vùng Tigray (Ethiopia), nhà nghiên cứu đạo đức AI Timnit Gebru nhận thấy Facebook thất bại trong kiểm soát thông tin sai lệch. Các cộng đồng nói thứ ngôn ngữ không được Thung lũng Silicon ưu tiên thường phải gánh chịu hậu quả nặng nề nhất từ môi trường internet thù địch.
Như thế chưa phải đã hết. Khi tin giả, ngôn từ thù hận không được kiểm duyệt, chúng sẽ được lấy làm dữ liệu đào tạo để xây dựng các mô hình học máy tiếp theo.
Biểu tình chống Facebook ở thủ đô Jakarta, Indonesia vào năm 2018
Những gì mà Haugen nói trước Quốc hội Mỹ càng củng cố thêm lập luận của nhiều chuyên gia và nhân viên Facebook trong nhiều năm qua: nếu công ty không thay đổi thiết kế của các thuật toán, các vấn đề trên nền tảng sẽ không được giải quyết.
Frances Haugen kêu gọi Facebook nên từ bỏ thuật toán xếp hạng nội dung và quay lại với dạng News Feed xếp theo trình tự thời gian.
Theo lời Ellery Roberts Biddle - giám đốc dự án của tổ chức Xếp hạng Quyền kỹ thuật số, chuyên nghiên cứu các hệ thống xếp hạng trên mạng xã hội và tác động của chúng đối với quyền con người, nhà lập pháp cần yêu cầu các công ty minh bạch công khai cách thức hoạt động của những thuật toán, hệ thống quảng cáo và xếp hạng nội dung, dù việc này không hề đơn giản.
Facebook sẽ hạn chế các bài bán sản phẩm chăm sóc sức khoẻ Các bài viết lẫn bài bán hàng liên quan đến sản phẩm chăm sóc sức khoẻ sẽ bị hạn chế hiển thị tại Việt Nam và toàn thế giới. Sáng 29/9, Facebook tổ chức họp báo về nguyên tắc phân phối nội dung trên bảng tin (news feed) của người dùng. Trong đó, mạng xã hội thông tin cho giới truyền thông khu...
