Thảm họa nhận diện khuôn mặt: Nhầm thành viên Quốc hội với tội phạm trong tù

Công nghệ nhận diện khuôn mặt của Amazon đã xác định sai 28 thành viên của Quốc hội thành những tội phạm trọng án, đang bị giam giữ trong tù.

Công nghệ nhận diện khuôn mặt của Amazon vẫn cho thấy kết quả thiếu tin cậy, đặc biệt là trong các hoạt động liên quan tới chính phủ.

Tại Mỹ và nhiều quốc gia phát triển khác, cơ quan hành pháp đang bước đầu phối hợp với các công ty dữ liệu nhằm ứng dụng công nghệ nhận diện khuôn mặt tại các địa điểm công cộng như sân bay, trường học, và thậm chí là cả các cuộc biểu tình.

Và Rekognition – công nghệ AI nhận diện khuôn mặt của Amazon là một trong những sự lựa chọn hàng đầu do hoạt động dựa trên cơ chế thời gian thực: Một hình ảnh ghi lại trực tiếp được mang ra đối chiếu với một hình ảnh đã được lưu trữ. Bên cạnh đó, công nghệ này cũng được quảng cáo là có độ chính xác cao, giúp việc điều tra và giám sát các cá nhân dễ dàng và chính xác.

Tuy nhiên rõ ràng là giữa máy móc với con người vẫn có những sự khác biệt nhất định, và điều này một lần nữa đã được chứng minh khi AI của Amazon cho thấy kết quả nhầm lẫn tới … đáng sợ.

Cụ thể, AI này đã nhầm lẫn 28 trường hợp là các thành viên Quốc hội với những tên tội phạm trong một thử nghiệm của Hiệp hội Dân sự Tự do Hoa Kỳ (ACLU). Trong đó, 11 trường hợp nhầm lẫn là người da màu, chiếm 40% so với tổng số, mặc dù trên thực tế số người da màu chỉ chiếm 20%.

Trong số những trường hợp bị nhầm lẫn do công nghệ nhận diện khuôn mặt, có bao gồm John Lewis, nhà lãnh đạo quyền công dân và là thành viên Quốc hội Mỹ. Ảnh: Jim Lo Scalzo / EPA

Được biết tại Mỹ, các vấn đề liên quan tới phân biệt chủng tộc và sắc màu vẫn là một “vấn nạn” vô cùng nhạy cảm và nặng tính chỉ trích từ hàng thế kỷ nay.

Malkia Cyril, giám đốc điều hành của Trung tâm Tư pháp Truyền thông Hoa Kỳ cho biết: “Bài kiểm tra của ACLU thể hiện rõ một điều mà nhiều người trong chúng ta đã biết – rằng công cụ nhận dạng khuôn mặt của Amazon phân biệt đối xử, phân biệt chủng tộc. Và đây là mối nguy hại cho nền dân chủ nước Mỹ. Họ cần phải ngừng lại ngay lập tức.”

Jacob Snow, một luật sư về Công nghệ và Tự do dân sự tại Quỹ ACLU, miền Bắc California, cho biết thử nghiệm của ACLU nhằm củng cố quan điểm rằng công nghệ giám sát khuôn mặt vẫn chưa an toàn để có thể ứng dụng trong các hoạt động của chính phủ.

“Giám sát khuôn mặt sắp được sử dụng để giám sát, phân biệt màu da, sắc tộc nhằm vào cộng đồng da màu, di dân và các hoạt động xã hội”, Jacob Snow nói. “Sau khi được áp dụng, thiệt hại từ sự việc này là không thể đo đếm được.”

Được biết trong thử nghiệm lần này, ACLU đã sử dụng hệ thống nhận diện khuôn mặt đang được Amazon triển khai mang tên Rekognition. Nhóm xây dựng một cơ sở dữ liệu khuôn mặt và công cụ tìm kiếm bằng cách sử dụng 25.000 ảnh chụp công khai, sau đó tham chiếu chéo dữ liệu với ảnh chụp của các thành viên Hạ viện, Thượng viện Hoa Kỳ.

Theo Guardian