Vì sao công nghệ nhận diện khuôn mặt bị lo ngại?
Khi Amazon tuyên bố ngừng cấp phép công cụ nhận diện khuôn mặt của mình cho cảnh sát Mỹ trong vòng 1 năm, đó có lẽ là một lời khích lệ cho Deborah Raji – một nhà nghiên cứu da màu.
Công nghệ nhận diện đã không nhận ra khuôn mặt của nhà nghiên cứu da màu Joy Buolamwini trừ khi cô đeo mặt nạ màu trắng
Vài ngày trước, khi tuyên bố tạm ngừng hợp tác với cảnh sát về nhận diện khuôn mặt, Amazon cũng kêu gọi các chính phủ đặt ra quy định mạnh mẽ hơn về công nghệ nhạy cảm này. Dù vậy, trong bài đăng trên blog công ty đã không thừa nhận nghiên cứu của Raji, công trình mà qua đó anh đã phát hiện ra rằng Rekognition xác định không chính xác giữa phụ nữ và đàn ông với tỷ lệ sai sót lên đến 19%.
Theo nhà nghiên cứu này, “Thật đáng tiếc khi Amazon và Liên đoàn Tự do Dân sự Mỹ (ACLU) đã không tham khảo công trình nghiên cứu của chúng tôi ngay từ đầu, trước khi đưa ra lệnh cấm. Tôi rất buồn khi họ không dám thừa nhận kết quả và vai trò nghiên cứu đó”.
Video đang HOT
Nguồn tin của CNET cho biết, các cộng đồng sắc tộc khác nhau, đặc biệt là các cộng đồng da màu ở những khu ổ chuột hoặc thu nhập thấp, thường sẽ đóng vai trò là những nơi được thử nghiệm các công nghệ giám sát vì cho rằng đó là các khu vực phức tạp về xã hội. Trong khi hầu hết thiết bị và công nghệ giám sát thử nghiệm này được đầu tư bằng tiền thuế của người dân và được cảnh sát cài cắm trong các khu phố kém may mắn đó.
Trước quyết định của Amazon 2 ngày, IBM cũng công bố việc rời khỏi thị trường nhận diện khuôn mặt. Trong một bức thức gửi tới Quốc hội Mỹ, Giám đốc điều hành Arvind Krishna của IBM cho rằng công ty muốn chống lại việc lạm dụng công nghệ nhận diện khuôn mặt để phân biệt chủng tộc và giám sát công dân ở quy mô rộng, quan điểm này được đưa ra tương tự những lời kêu gọi mà các nhà hoạt động về nhân quyền và quyền riêng tư từng đề cập trong những năm qua.
Microsoft bị chỉ trích vì công nghệ nhận diện khuôn mặt
Microsoft nhận một số chỉ trích khi vẫn cung cấp công nghệ nhận diện khuôn mặt cho cảnh sát sau cái chết của George Floyd.
Theo Forbes, dù đã lên tiếng ủng hộ cộng đồng người da màu, Microsoft vẫn chưa có hành động cụ thể nào trong việc bảo vệ họ. Các hãng phần mềm Mỹ hiện cũng bị cộng đồng lên án vì cung cấp một số công nghệ cho cảnh sát, trong đó có nhận diện khuôn mặt.
Microsoft đang cung cấp công nghệ nhận diện khuôn mặt cho cảnh sát.
"Microsoft dường như đang muốn thế giới luôn có mặt của cảnh sát. Họ xuất hiện vô hình thông qua các công cụ giám sát trong cộng đồng", Matt Cagle, luật sư của Liên minh Tự do Dân sự Mỹ (ACLU), nói. "Microsoft đang cung cấp hạ tầng để quét khuôn mặt của bất kỳ người nào khi họ xuống phố, biểu tình hay tham dự lễ hội. Việc xây dựng bộ máy giám sát như vậy sẽ gây ra những hậu quả lớn. Lợi nhuận là quan trọng, nhưng nó có thể thúc đẩy ngành công nghiệp giám sát, tạo ra các công cụ theo dõi, phân biệt chủng tộc cho chính phủ hoặc doanh nghiệp".
Tuần trước, ACLU và một số nhóm đòi tự do dân chủ khác tại Mỹ cũng phản đối dự luật AB2261 ở California, trong đó cho phép các công ty quét khuôn mặt người đi xin việc, thu thập khuôn mặt của khách hàng ở các dịch vụ chăm sóc tài chính, sức khỏe, thậm chí là các cửa hàng nhu yếu phẩm.
Tổ chức Tự Vệ Chống Theo Dõi (EFF) nói rằng, những công ty như Microsoft nên ngừng cung cấp công nghệ và sản phẩm nhận dạng khuôn mặt cho cảnh sát, đồng thời yêu cầu chính phủ cấm hoàn toàn công nghệ này trên khắp nước Mỹ. "Những mối quan hệ như Microsoft với cảnh sát sẽ khiến người dân tăng tính nghi ngờ, bởi họ đang tiếp tay cho nạn phân biệt chủng tộc, thậm chí gián tiếp duy trì việc quấy rối giữa cảnh sát với người Mỹ da đen", đại diện của EFF nói.
Trước đó, Amazon tuyên bố sẽ dừng cung cấp công nghệ nhận diện khuôn mặt Rekognition cho cảnh sát trong vòng một năm. "Chúng tôi hy vọng lệnh cấm một năm sẽ giúp quốc hội có thêm thời gian để đưa ra các quy định phù hợp với công nghệ này. Amazon sẵn sàng hợp tác nếu được yêu cầu", phát ngôn viên Amazon cho biết.
Trong khi đó, IBM cũng có động thái tương tự. "IBM phản đối và không dung túng cho việc sử dụng bất kỳ công nghệ nào, trong đó có công nghệ nhận diện khuôn mặt để giám sát, tạo hồ sơ chủng tộc, vi phạm nhân quyền hay bất kỳ mục đích nào khác", Arvind Krishna, CEO da màu đầu tiên của IBM, nhấn mạnh. Ông Krishna cũng kêu gọi chính phủ nên có một cuộc tranh luận công khai về việc công nghệ này nên được sử dụng cho thực thi pháp luật hay không.
Trước đây, có một số nghiên cứu cho thấy công nghệ nhận diện khuôn mặt có liên quan đến phân biệt chủng tộc. Theo kết quả của Viện Khoa học và Công nghệ Quốc gia Mỹ (NIST) năm 2019, thuật toán nhận diện khuôn mặt áp dụng với người Mỹ gốc Phi và người châu Á có khả năng bị nhầm lẫn cao gấp 100 lần so với người da trắng.
Gần đây, công cụ AI biên tập tin tức của Microsoft cũng bị nhầm lẫn. Trong một bài viết nói về nạn phân biệt chủng tộc mà ca sĩ Jade Thirlwall gặp phải, trang MSN đã không sử dụng hình ảnh của Jade Thirlwall, thay vào đó là hình ảnh của ca sĩ Leigh-Anne Pinnock. Cả hai đều là những thành viên da màu trong nhóm nhạc Little Mix nổi tiếng nước Anh. Việc nhầm lẫn giữa hai thành viên da màu, trong một bài viết nói về nạn phân biệt màu da, khiến MSN bị chỉ trích.
Làn sóng chống phân biệt chủng tộc đang bùng nổ tại Mỹ sau khi George Floyd, một người Mỹ gốc Phi, chết do bị cảnh sát ghì lên gáy ngày 25/5 ở Minneapolis, bang Minnesota. Cái chết của ông cũng châm ngòi cho các cuộc biểu tình đòi công lý tại hơn 140 thành phố của Mỹ. Ngoài thủ đô Washington, hơn 40 thành phố áp đặt lệnh giới nghiêm nhằm đối phó với biểu tình. Hàng nghìn người bị bắt, nhiều tài sản, nhà cửa bị phá hoại.
Amazon dừng cấp phép công nghệ nhận diện khuôn mặt cho cảnh sát Mỹ Việc dừng cấp phép trong thời hạn 1 năm được đưa ra sau khi xảy ra các cuộc biểu tình ở Mỹ, và những lời chỉ trích nhắm vào mối quan hệ "nhạy cảm" của Amazon với cơ quan thực thi pháp luật Mỹ. Giao diện phần mềm nhận diện khuôn mặt Rekognition của Amazon đang được cảnh sát Washington sử dụng Theo...