Twitter tìm kiếm lỗi trên thuật toán cắt xén hình ảnh
Mạng xã hội Twitter sẽ trả tới 3.500 USD cho những người phát hiện ra các vấn đề về sự thiên vị với thuật toán cắt xén hình ảnh của mình.
Twitter tổ chức cuộc thi tìm lỗi thuật toán trên tính năng cắt xén ảnh
Theo Engadget , Twitter sẽ thưởng cho những người tìm thấy các sự cố thiên vị chưa được phát hiện trong thuật toán cắt xén hình ảnh.
Vào tháng 4, Twitter cho biết họ sẽ nghiên cứu những sự cố và tác hại không có chủ đích được tạo ra bởi các thuật toán của nó, bắt đầu bằng việc cắt xén hình ảnh. Nền tảng này sử dụng thuật toán vào năm 2018 với nỗ lực tập trung vào những phần thú vị nhất của hình ảnh trong bản xem trước. Một số người dùng đã chỉ trích cách Twitter xử lý việc cắt xén tự động, cho rằng thuật toán có xu hướng tập trung vào những người có màu da sáng hơn trong ảnh.
Video đang HOT
“Vào tháng 5, chúng tôi đã chia sẻ cách tiếp cận để xác định sự thiên vị trong thuật toán cắt ảnh và chúng tôi cung cấp mã của mình để người khác có thể nghiên cứu và thực hiện tái tạo lại lại thuật toán. Chúng tôi muốn thực hiện công việc này một bước xa hơn bằng cách mời và khuyến khích cộng đồng giúp xác định những tác hại tiềm ẩn của thuật toán này ngoài những gì chúng tôi từng thực hiện”, Twitter viết trong một bài đăng trên blog.
Những người chiến thắng sẽ được công bố tại hội thảo DEF CON AI Village do Twitter tổ chức vào ngày 8.8 tới.
Thuật toán YouTube vẫn hướng người xem vào nội dung độc hại
Hơn 71% video bị cắm cờ bởi nhóm tình nguyện viên vẫn được đề xuất bởi YouTube, theo một nghiên cứu mới đây của Mozilla (cha đẻ trình duyệt Firefox).
Tổ chức phần mềm phi lợi nhuận Mozilla Foundation mới đây đã phát hiện ra rằng thuật toán đề xuất của YouTube vẫn hướng người xem trực tiếp vào các video tin giả và nội dung g.ợi d.ục, dù rằng 71% số video đó đã bị người tham gia phản đối bằng cách cắm cờ.
Cắm cờ là một hình thức báo cáo (report) để người dùng thông báo cho YouTube biết video đó chứa nội dung vi phạm chính sách.
Nghiên cứu mới này tiếp tục giáng một đòn mạnh vào các nền tảng như YouTube, Facebook hay Twitter. Những năm gần đây, các nền tảng mạng xã hội khuyến khích người dùng chia sẻ thông tin nhiều hơn nữa, nhưng đang phải đối mặt với pháp luật và áp lực dư luận khi để tin giả, nội dung độc hại tràn lan mà không có sự kiểm duyệt gắt gao.
Với YouTube, nó cho thấy nhiều lỗ hổng trong việc gợi ý người xem video có nhiều lượt xem thay vì nội dung có ý nghĩa.
Thuật toán đề xuất của YouTube góp phần lan truyền nội dung xấu độc, thuyết âm mưu.
Trong nghiên cứu của Mozilla, 37.000 tình nguyện viên đã sử dụng tiện ích mở rộng để đo đạc tần suất sử dụng YouTube trong 10 tháng liên tục kết thúc vào tháng 5/2021. Khi người tham gia cắm cờ một video, tiện ích mở rộng sẽ biết được video đó đã được đề xuất cho người xem hay người xem chủ động mở nó lên.
Các video bị cắm cờ nổi bật có phiên bản 'người lớn' của phim hoạt hình Toy Story và video giả mạo Bill Gates thuê sinh viên đếm phiếu bầu. YouTube sau đó đã gỡ bỏ 200 video mà người tham gia cắm cờ, nhưng tổng cộng vẫn có 160 triệu lượt xem trước khi bị gỡ, theo Mozilla.
Phát ngôn viên của YouTube cho biết đã giảm đề xuất của các nội dung độc hại xuống dưới 1% và nền tảng tạo ra 30 thay đổi so với năm trước để xử lý các vấn đề. Vị đại diện này cũng cho biết hệ thống AI có khả năng phát hiện 94% video vi phạm chính sách và gỡ bỏ phần lớn chúng trước khi đạt được 10 lượt xem.
Thuật toán đề xuất của YouTube giúp tạo ra hơn 2/3 trong số 1 tỷ giờ xem mỗi ngày, từ đó kiếm được doanh thu 19,7 tỷ USD trong năm ngoái. Khoảng 720.000 giờ xem được tải lên mỗi ngày là không được giám sát bởi con người như một phần để giảm tải chi phí.
Người đứng đầu nghiên cứu này bà Brandi Geurkink cho biết người tham gia hiếm khi được gợi ý video mà họ tìm kiếm, thay vào đó thuật toán đề xuất toàn những thứ họ không muốn xem.
Nghiên cứu cũng chỉ ra rằng 60% các video được đề xuất lại (sau khi đã bị cắm cờ) đều không phải ở các nước nói tiếng Anh mà chủ yếu ở Brazil, Đức và Pháp. Trong đó, hơn 20% số video bị cắm cờ được phân loại ở mục sai thông tin, 10% là ngôn ngữ thù hận và 7% là nội dung g.ợi d.ục.
Đáp lại, YouTube luôn từ chối cung cấp thông tin về thuật toán đề xuất và coi đấy là tài sản riêng của công ty.
Instagram đã biến chất? Instagram đang dần trở thành một Facebook thứ 2 với hàng loạt thuật toán và vô số quảng cáo. Bài viết thể hiện quan điểm của tác giả John Devo từ Techradar về sự thay đổi của Instagram so với thời kỳ đầu. Instagram từng là nơi bạn có thể tìm được cộng đồng và khám phá ra niềm đam mê với nhiếp...
