Mặt trái của công nghệ AI trong trường học

TRUNG QUỐC – Việc sử dụng công nghệ AI đang xâm phạm đến sự riêng tư của giáo viên và học sinh, đồng thời đặt ra câu hỏi liệu chúng có thực sự hiệu quả?

Betty Li, 22 tuổi, là sinh viên một trường đại học ở Tây Bắc. Li cho biết, mỗi giây trong cuộc sống học đường của cô đều bị theo dõi bởi “những đôi mắt điện tử”. Hàng ngày cô phải đi qua máy quét nhận diện khuôn mặt để điểm danh ở trường và đi vào ký túc xá. Trong các lớp học, phía trên bảng đen cũng có những camera theo dõi, giám sát sinh viên.

Nhiều trường học ở Trung Quốc đang triển khai công nghệ AI (Artificial Intelligence – trí thông minh nhân tạo) và các máy ảnh nhận dạng khuôn mặt trong khuôn viên. Đây là một phần của chiến dịch giáo dục thông minh do Bộ Giáo dục Trung Quốc khởi xướng nhằm đưa Trung Quốc dẫn đầu thế giới về công nghệ, đồng thời đưa nền kinh tế Trung Quốc đi lên chuỗi giá trị toàn cầu.

Trong một kế hoạch chi tiết được công bố năm 2018, Bộ Giáo dục Trung Quốc đề nghị các trường tìm hiểu mô hình giảng dạy mới dựa trên AI, bao gồm sử dụng trí tuệ nhân tạo để theo dõi quá trình giảng dạy và phân tích hiệu suất của học sinh, giáo viên.

Trường học sau đó nhiệt tình áp dụng AI, đặc biệt là công nghệ nhận dạng khuôn mặt. Hệ thống công nghệ không chỉ được sử dụng để điểm danh, đảm bảo an ninh trường học mà còn ghi lại sự tham dự của học sinh và tham gia tuyển sinh. Một số trường học thậm chí đang khám phá cách sử dụng công nghệ AI để phân tích hành vi của giáo viên và học sinh.

Trường trung học số 11 Hàng Châu ở tỉnh Chiết Giang sử dụng công nghệ AI tại nhiều địa điểm, từ căng tin đến lớp học để theo dõi, phân bổ bữa ăn và cả giám sát xem có học sinh có yêu thích các giờ học hay không. Các máy ảnh trong lớp học gắn trên bảng đen có thể thu được bảy cảm xúc của học sinh bao gồm: trung lập, vui, buồn, thất vọng, tức giận, sợ hãi và ngạc nhiên.

Còn tại tỉnh Quý Châu, phía Tây Nam Trung Quốc, một trường học đã cung cấp đồng phục thông minh được trang bị chip để theo dõi học sinh đang ở đâu.

Công nghệ AI áp dụng ở trường học Trung Quốc. Ảnh: SCMP

Sự phổ biến ngày càng cao của công nghệ AI trong các trường học khiến nhiều phụ huynh Trung Quốc lo lắng về quyền riêng tư và bảo mật dữ liệu cá nhân của con cái họ. Tian Guanghui, phụ huynh 56 tuổi ở Bắc Kinh, lo ngại đến nỗi đã đăng một bức tâm thư lên mạng kêu gọi nhận thức rõ hơn về tác động của việc dùng công nghệ giám sát AI đối với sức khỏe tinh thần của trẻ em.

“Khi còn nhỏ, chúng tôi luôn khó chịu khi cha mẹ theo dõi mỗi ngày. Vậy nên một người bị mắt điện tử theo dõi hàng ngày thì sẽ bị ảnh hưởng đến sức khỏe tâm lý. Tôi nghĩ rằng giáo dục trẻ em là dạy chúng trở nên lịch sự và nhân văn, nuôi dưỡng cho chúng sự tò mò về thế giới chứ không phải theo dõi, giám sát mọi lúc, mọi nơi”, ông Tian viết. Ý kiến của ông hiện được rất nhiều người ủng hộ và thu hút hơn một trăm chữ ký đồng tình.

Wang Shengjin, giáo sư kỹ thuật điện tử của Đại học Tsinghua, cũng bày tỏ lo lắng về quyền riêng tư và an toàn dữ liệu khi sử dụng công nghệ AI. Ông cho biết, hành vi, sở thích và thói quen của mỗi học sinh là riêng tư và đặt câu hỏi liệu chúng ta có cần thu thập những điều này hay không.

Nói về sự hiệu quả, sau một thời gian tiếp xúc với máy quét khuôn mặt, Betty Li cho biết, cô đã quen với sự hiện diện của công nghệ và quen với cả sự thất bại của công nghệ này. Hệ thống nhận dạng khuôn mặt không thể nhận ra Li nếu cô đeo kính khác nhau và khi có cả hàng dài người đi qua cửa vào ký túc xá.

Bộ Giáo dục Trung Quốc thừa nhận mối quan tâm đang ngày càng gia tăng của giáo viên, học sinh và phụ huynh về việc sử dụng các công nghệ AI trong trường học và đưa ra các hướng dẫn hồi đầu tháng 9 về việc thắt chặt phạm vi dữ liệu cá nhân của học sinh mà ứng dụng công nghệ có thể thu thập.

Lei Chaozi, Tổng cục trưởng của Bộ Khoa học và Công nghệ Trung Quốc cũng đã chỉ định một hội đồng chuyên gia để xem xét vấn đề bảo mật dữ liệu và quyền riêng tư đối với việc nhận dạng khuôn mặt trong khuôn viên trường.

“Chúng tôi sẽ hạn chế và điều chỉnh việc áp dụng AI trong trường học. Hiện tại, chúng tôi kêu gọi các trường học sử dụng công nghệ này với sự cẩn trọng cao độ”, ông Lei phát biểu trước báo giới.

Thanh Hương

Theo SCMP/VNE