Con người muốn chống lại công nghệ nhận diện

Tại Quảng trường Cộng hòa ở thủ đô Belgrade của Serbia, những cụm camera hình vòm đã được gắn trên tường, âm thầm quét khuôn mặt của những người đi qua.

Đây chỉ là một trong 800 địa điểm được lắp đặt camera trang bị phần mềm nhận diện khuôn mặt được chính phủ Serbia mua từ Huawei hồi năm ngoái.

Tuy nhiên, sự hiện diện của các camera an ninh đã vấp phải sự phản đối của không ít người dân, trong đó, nhiều nhà hoạt động đặt nghi vấn về hiệu quả và tính pháp lý của dự án, đồng thời chỉ trích biện pháp theo dõi tự động từ xa đang được áp dụng tại Belgrade.

Camera giám sát ở Quảng trường Cộng hòa tại Belgrade.

Thủ đô Serbia đang trải qua sự chuyển dịch từng được ghi nhận ở nhiều nơi khác. Công nghệ nhận diện đã được ứng dụng từ lâu tại các cửa khẩu hàng không và trên smartphone, cũng như trở thành công cụ giúp cảnh sát nhận diện tội phạm.

Tuy nhiên, nó ngày càng hiện diện nhiều hơn tại các không gian công cộng và riêng tư. Từ thủ đô của Peru đến Kenya, từ Nga đến Mỹ, hàng trăm thành phố đã lắp đặt camera trang bị nhận dạng khuôn mặt và khẳng định dữ liệu sẽ được truyền về các trung tâm điều hành để làm nên giải pháp “thành phố thông minh và an toàn” để đối phó tội phạm. Đại dịch Covid-19 càng đẩy nhanh tiến bộ phổ cập công nghệ này.

Xu hướng này đang phát triển mạnh nhất tại Trung Quốc, với hơn 100 thành phố mua các hệ thống giám sát dùng công nghệ nhận diện chỉ trong năm 2019, theo Jessica Batke, chuyên gia phân tích thuộc Trung tâm Quan hệ Mỹ – Trung có trụ sở tại thành phố New York của Mỹ.

Tuy nhiên, sự phản đối đang xuất hiện tại nhiều quốc gia. Các nhà nghiên cứu và nhiều học giả đang cảnh báo về sự phổ biến của nhận dạng khuôn mặt, đồng thời kêu gọi áp dụng những biện pháp kiểm soát hoặc cấm hoàn toàn.

Nhiều thách thức pháp lý đã được đưa ra ở châu Âu và một phần nước Mỹ, trong đó những người chỉ trích nộp đơn kiện nhằm ngăn công nghệ nhận diện được cảnh sát triển khai. Nhiều thành phố Mỹ đã cấm các cơ quan chính quyền dùng công nghệ này hoặc thông qua những đạo luật yêu cầu minh bạch trong việc sử dụng của lực lượng an ninh.

Châu Âu và Mỹ cũng đang xem xét những đề xuất quản lý thiết bị nhận diện, kết quả trong những năm tới sẽ cho thấy mức độ giới hạn hoặc phát triển mở rộng của nhận dạng khuôn mặt. “Những làn sóng phản đối hiện nay đều đồng tình rằng các công nghệ nhận dạng khuôn mặt không phải điều tất yếu của cuộc sống”, Amba Kak, học giả ngành luật tại Đại học New York, cho hay.

Lo ngại về gi ám sát

Steven Feldstein, nhà nghiên cứu chính sách ở Quỹ Carnegie vì Hòa bình Quốc tế có trụ sở tại thủ đô Washington của Mỹ, cho biết 64 quốc gia đã triển khai công nghệ nhận diện trong giám sát vào năm 2019. Phần lớn sản phẩm được mua từ các công ty Trung Quốc, trong khi phần còn lại đến từ các doanh nghiệp Mỹ, châu Âu, Nhật Bản và Nga.

Dự án tại thủ đô Belgrade thể hiện những lo ngại về các “thành phố thông minh”, trong đó, những người phản đối cho rằng không có bằng chứng cho thấy camera nhận diện giúp giảm tỷ lệ phạm pháp nhiều hơn camera thông thường, trong khi công chúng ít được biết thông tin về hệ thống này.

Huawei hồi năm 2018 ra thông cáo cho biết đang thử nghiệm hệ thống camera độ phân giải cao ở Belgrade. Tài liệu này khẳng định các camera đã giúp cảnh sát phá nhiều vụ án lớn và cải thiện tình hình an ninh ở nhiều sự kiện thể thao quan trọng. Chính phủ Serbia năm nay cũng thông báo kế hoạch mua thêm 8.000 máy quay để gắn trên xe tuần tra, cũng như đeo trên người các sĩ quan và công trình công cộng.

Một số chuyên gia cho rằng vẫn còn nhiều câu hỏi cần giải đáp, như địa điểm lưu trữ dữ liệu từ camera và liệu nhà sản xuất Huawei có quyền truy cập chúng không. Chính phủ Serbia khẳng định tập đoàn Trung Quốc không được thu thập hay lưu trữ dữ liệu từ hệ thống ở Belgrade. Điều này vẫn gây ngờ vực khi thu thập lượng lớn dữ liệu để cải thiện thuật toán là một trong những lý do các tập đoàn lớn tham gia triển khai công nghệ giám sát sử dụng AI.

Th úc đ ẩy trong đại dịch

Hồi tháng 3, Vladimir Bykovsky, cư dân Moskva vừa trở về từ Hàn Quốc, rời căn hộ của mình chỉ trong vài phút để vứt rác. Cảnh sát xuất hiện tại nhà anh chỉ sau nửa tiếng, cho biết Bykovsky đã vi phạm quy định cách ly Covid-19 và sẽ bị phạt hành chính.

Hệ thống camera tại một ga tàu điện ở Moskva hồi tháng 1/2020.

Các sĩ quan cho biết camera bên ngoài khu căn hộ của Bykovsky được kết nối với hệ thống giám sát dùng công nghệ nhận diện đang triển khai trên phạm vi thủ đô Moskva. “Họ nói nhận được thông báo một người tên Vladimir Bykovsky đã vi phạm lệnh cách ly. Tôi rất bất ngờ”, Bykovsky nhớ lại.

Hệ thống giám sát video diện rộng được triển khai hồi ở thủ đô Nga hồi tháng 1, sử dụng phần mềm của công ty NtechLab có trụ sở tại Moskva. Giám đốc Alexey Minin cho biết đây là hệ thống nhận diện trực tiếp lớn nhất thế giới, trong khi đồng sáng lập NtechLab Artem Kukharenko cho biết phần mềm này được dùng ở nhiều thành phố trên khắp nước Nga.

Khi được hỏi về hiệu quả trong ngăn chặn tội phạm, Minin đề cập tới thông tin nhiều hooligan bị bắt tại Moskva trong thời gian diễn ra World Cup 2018, khi đó hệ thống của NtechLab đang chạy thử nghiệm. Một số thông tin khác cho biết 200 vụ vi phạm cách ly Covid-19 đã được hệ thống phát hiện trong vài tuần đầu tiên thủ đô Moskva áp lệnh phong tỏa.

Tương tự Nga, chính phủ Trung Quốc, Ấn Độ, Hàn Quốc và nhiều nước cũng sử dụng nhận diện để truy vết tiếp xúc và thực thi lệnh phong tỏa. Giám đốc điều hành sân bay Heathrow của Anh hồi tháng 5 cho biết sẽ thử nghiệm máy quét thân nhiệt trang bị camera nhận diện khuôn mặt để nhận diện những người có nguy cơ mang nCoV. Hàng loạt công ty cũng khẳng định sẽ nâng cấp công nghệ để nhận diện người đeo khẩu trang.

Mọi người đều c ó thông tin trong cơ s ở dữ liệu

Một lo ngại khác, đặc biệt tại Mỹ, là danh sách theo dõi được cảnh sát sử dụng để so sánh hình ảnh có thể bị sai sót và nhiều người bị đưa vào cơ sở dữ liệu mà không biết. Các nhà nghiên cứu tại Địa học Georgetown ước tính khoảng một nửa công dân Mỹ có mặt trong mạng lưới nhận diện của lực lượng hành pháp, bởi nhiều bang cho phép cảnh sát truy cập cơ sở dữ liệu bằng lái xe.

Hồi đầu năm nay, New York Times cảnh báo công ty phần mềm Clearview AI đã lấy hàng tỷ hình ảnh từ các mạng xã hội và tập hợp chúng vào cơ sở dữ liệu nhận dạng khuôn mặt. Sản phẩm của Clearview AI được nhiều lực lượng cảnh sát trong và ngoài Mỹ sử dụng.

“Vụ bê bối Clearview thu hút sự chú ý đến điều mà nhiều nhà nghiên cứu dự đoán từ lâu. Đó là những công nghệ đủ sức nhận diện trên diện rộng ngày càng dễ tiếp cận và không đòi hỏi thiết bị quá phức tạp để vận hành”, Ben Sobel, chuyên gia về quản lý AI tại Đại học Harvard, nhận xét.

Twitter, Facebook và YouTube đã yêu cầu Clearview ngừng lấy dữ liệu, cho rằng điều này vi phạm điều khoản sử dụng của họ. Nhiều đơn kiện Clearview cũng được gửi lên tòa án, trong đó có các vụ kiện tại bang Illinois, nơi cho phép các cá nhân kiện doanh nghiệp thu thập dữ liệu sinh trắc của họ mà không được phép.

Clearview không phải công ty duy nhất thu thập ảnh khuôn mặt người dùng trên mạng. Công ty PimEyes ở Ba Lan cũng lập trang web cho phép mọi người tìm ảnh trùng khớp trên mạng và khẳng định họ đã thu thập hơn 900 triệu hình ảnh, dù tuyên bố nguồn ảnh không lấy từ mạng xã hội.

K êu g ọi kiểm so át ch ặt chẽ hơn

Nhiều tổ chức và cả những tập đoàn như Google, Amazon, IBM và Microsoft đều kêu gọi cấm sử dụng nhận dạng khuôn mặt, ít nhất là trong hoạt động của cảnh sát, cho tới khi những quy định kiểm soát chặt chẽ hơn được thực thi.

Thử nghiệm phần mềm nhận diện người đeo khẩu trang ở Bắc Kinh.

Trong ứng dụng thương mại, nhiều nhà nghiên cứu lo ngại các điều luật tập trung vào việc xin phép người dùng chấp thuận nhận diện là chưa đủ. “Rất khó để từng cá nhân hiểu mối đe dọa khi chấp nhận quyền truy cập dữ liệu, họ cũng không có cách nào để thực sự từ chối”, Woodrow Hartzog, giảng viên ngành luật và khoa học máy tính ở Đại học Đông Bắc ở thành phố Boston, Massachusetts, nêu quan điểm.

Hartzog coi nhận diện là “công nghệ nguy hiểm nhất từng được phát minh”, kêu gọi các nhà lập pháp Mỹ thông qua đạo luật cấm thu thập và lưu trữ hình ảnh khuôn mặt tại những nơi như nhà hàng và phòng tập gym, cũng như cấm dùng công nghệ nhận diện với quy trình ra quyết định tự động trong hoạt động cảnh sát, quảng cáo nhắm đối tượng và thuê nhân lực.

Ở Trung Quốc, nhiều người cũng tỏ ra không thoải mái với sự phổ biến của công nghệ nhận diện do một số công ty tư nhân triển khai. Khảo sát hơn 6.000 người tại Quảng Châu cuối năm 2019 cho thấy 80% người được hỏi lo ngại về khả năng an ninh của các hệ thống nhận diện, trong khi 83% người muốn có thêm quyền kiểm soát dữ liệu khuôn mặt của họ như quyền xóa ảnh.

Truyền thông Trung Quốc cũng đặt nghi vấn về sử dụng công nghệ nhận diện, còn chính phủ đang bổ sung các điều luật bảo vệ dữ liệu chặt chẽ hơn.

Luật pháp tại châu Âu cho rằng cảnh sát có thể xử lý dữ liệu vì mục đích sinh trắc học nếu cần thiết và phải thực hiện những biện pháp bảo vệ cần thiết. Tuy nhiên, câu hỏi là liệu có phù hợp không khi hàng chục nghìn người bị theo dõi chỉ để bắt một tên tội phạm, nhiều nhà nghiên cứu nêu quan điểm. Các thẩm phán Anh cho rằng điều này là phù hợp, nhưng chỉ khi việc này được kiểm soát chặt chẽ hơn.

Liên minh châu Âu (EU) đang xem xét khuôn khổ quản lý AI, đặt ra nhiều điều luật về sinh trắc học. Tài liệu do EU công bố cho rằng sẽ cần nhiều điều luận đặc biệt cho AI “có độ nguy hiểm cao”, trong đó bao gồm phần mềm nhận diện. Phần lớn chuyên gia và doanh nghiệp bình luận về tài liệu này đồng tình rằng cần có thêm nhiều quy định để sử dụng nhận diện tại nơi công cộng.