Đề xuất hướng dẫn Khung đạo đức AI quốc gia

Bộ Khoa học và Công nghệ đang tiến hành lấy ý kiến đối với dự thảo Thông tư hướng dẫn Khung đạo đức trí tuệ nhân tạo (AI) quốc gia.

Việc ban hành Thông tư này được đánh giá là rất cần thiết nhằm cập nhật và thay thế Quyết định 1290/QĐ-BKHCN, qua đó tăng cường tính pháp lý cho việc phát triển và ứng dụng AI có trách nhiệm tại Việt Nam.

Ảnh minh họa. Ảnh: Internet.

Dự thảo Thông tư áp dụng trực tiếp đối với các cơ quan quản lý nhà nước, cùng những tổ chức, cá nhân tham gia thiết kế, phát triển, cung cấp, triển khai, vận hành hoặc sử dụng AI phục vụ cho hoạt động quản lý nhà nước và cung cấp dịch vụ công.

Thông tư cũng là căn cứ quan trọng để các tổ chức, doanh nghiệp tham chiếu nhằm xây dựng quy tắc ứng xử nội bộ và tự đánh giá mức độ tuân thủ nguyên tắc đạo đức AI trong hoạt động của mình.

Tiêu chí tiên quyết của Khung đạo đức là bảo đảm hệ thống AI hoạt động an toàn, tin cậy và tuyệt đối không gây hại đến tính mạng, sức khỏe, danh dự hay đời sống tinh thần của con người.

Về an toàn kỹ thuật: Hệ thống AI phải có khả năng chống chịu rủi ro, bảo vệ tính toàn vẹn của dữ liệu huấn luyện và chống lại các hành vi đầu độc dữ liệu (Data Poisoning), ngăn ngừa sự cố hay tấn công mạng. Hệ thống cũng không được tạo ra hoặc lan truyền các nội dung xúc phạm danh dự, nhân phẩm người khác hoặc gây tổn hại đến đời sống tinh thần của con người..

Về sự kiểm soát của con người: Máy móc không thể hoàn toàn tự quyết. Các hệ thống phải duy trì khả năng can thiệp của con người, cho phép con người giám sát, tạm dừng hoặc vô hiệu hóa hệ thống ngay khi xuất hiện nguy cơ gây hại.

Theo dự thảo, AI cần tôn trọng Hiến pháp và pháp luật về bảo vệ dữ liệu cá nhân, không xâm phạm trái phép đời tư của công dân.

Công bằng và không phân biệt đối xử: Dữ liệu và thuật toán phải được rà soát kỹ lưỡng để loại bỏ thiên kiến (bias). Hệ thống không được phân biệt đối xử dựa trên giới tính, dân tộc, tôn giáo hay địa vị xã hội…

Minh bạch và giải trình: Việc sử dụng AI phải được công khai. Người dùng cần được thông báo khi nội dung, dịch vụ có sự tham gia của AI, đồng thời các nội dung do AI tạo ra hoặc chỉnh sửa phải được gắn nhãn hoặc áp dụng biện pháp nhận biết phù hợp. Các chủ thể liên quan cũng phải có khả năng giải trình về quá trình hoạt động cũng như các quyết định, hệ quả phát sinh từ hệ thống AI.

Khung đạo đức không chỉ hướng đến an toàn mà còn đặt mục tiêu thúc đẩy sự thịnh vượng và phát triển bền vững. AI phải góp phần nâng cao phúc lợi xã hội và có tính bao trùm, giúp thu hẹp khoảng cách số để các nhóm yếu thế cũng có thể thụ hưởng lợi ích. Đặc biệt, định hướng AI xanh được nhấn mạnh, ưu tiên phát triển các công nghệ tiết kiệm tài nguyên, sử dụng năng lượng hiệu quả và giảm thiểu tác động xấu đến môi trường.

Dự thảo khuyến khích các nỗ lực đổi mới sáng tạo nhưng yêu cầu phải gắn liền với việc đánh giá rủi ro và đạo đức ngay từ khâu thiết kế. Trong khâu nghiên cứu và phát triển, việc thu thập, xử lý dữ liệu huấn luyện, kiểm thử phải hợp pháp, đảm bảo an ninh mạng và quyền sở hữu trí tuệ. Các tổ chức, cá nhân ứng dụng AI phải chịu trách nhiệm về kết quả sử dụng, nghiêm cấm sử dụng AI để xâm phạm lợi ích quốc gia, công cộng hoặc quyền lợi hợp pháp của người khác.

Để bảo đảm các hệ thống AI thực sự đáp ứng những tiêu chí trên, dự thảo đề ra ba phương pháp đánh giá chính.

Thứ nhất là hồ sơ, tài liệu. Rà soát tính hợp lệ của quy trình, chính sách, tài liệu thiết kế và nhật ký vận hành.

Thứ hai là kiểm thử kỹ thuật.Dùng các kịch bản để kiểm tra thực tế hoạt động của hệ thống, gồm dữ liệu đầu vào, thuật toán và kết quả đầu ra.

Cuối cùng là đánh giá quy trình.So sánh cách tổ chức, vận hành hệ thống trong thực tế với các quy định nội bộ.

Với những tiêu chí và phương pháp đánh giá toàn diện, sự ra đời của Thông tư hướng dẫn Khung đạo đức trí tuệ nhân tạo quốc gia sẽ đóng vai trò thiết yếu trong việc định hình một hệ sinh thái AI an toàn, nhân văn và bền vững tại Việt Nam.