“Cha đẻ” trí tuệ nhân tạo cảnh báo nhân loại mất kiểm soát AI

Nhà khoa học máy tính Yoshua Bengio khuyến cáo thế giới cần có cơ chế kiểm soát trí tuệ nhân tạo (AI) nghiêm ngặt như kiểm soát vũ khí hạt nhân.

Nhà khoa học máy tính người Canada Yoshua Bengio (Ảnh: AFP).

Nhà khoa học máy tính người Canada Yoshua Bengio, người được coi là một trong những cha đẻ của AI, cảnh báo nhân loại đang dần “mất kiểm soát” đối với AI.

Đối với ông Bengio, “có một lý do khiến các công ty phải nói rằng điều này đang diễn ra quá nhanh và chúng ta đang mất kiểm soát (AI)”.

“Những người như tôi đã lường trước điều này từ lâu”, nhà khoa học 62 tuổi nói thêm. Theo ông, các cuộc thảo luận an ninh xung quanh AI hiện nay vẫn chưa đủ mạnh mẽ.

Ông cho rằng thế giới cần có những rào cản pháp lý tương tự như các cơ chế kiểm soát vũ khí hạt nhân.

Những lo ngại về mối nguy hiểm của AI đã gia tăng trong những tuần gần đây, khi nhân sự từ các công ty công nghệ lớn liên tục nộp đơn xin nghỉ việc kèm theo cảnh báo về các mối đe dọa mang tính tồn vong đối với cuộc sống con người nếu không kiểm soát tốc độ tiến bộ công nghệ.

Sự báo động diện rộng đã bùng nổ sau khi OpenAI tiết lộ một nhóm tác nhân AI đã thực hiện một cuộc xâm nhập trái phép vào nền tảng mã nguồn mở Hugging Face vào tháng 7.

Ông Bengio coi những sự việc như vậy chính là mối đe dọa, đồng thời cảnh báo về kịch bản các tác nhân AI “có khả năng vượt qua rào cản an ninh mạng và xâm nhập vào bất kỳ công ty nào”.

Ông Bengio cho rằng mọi người cần phải nhận thức rõ những rủi ro phía trước.

“Các tác nhân AI có thể thúc đẩy khả năng thiết lập kết nối cá nhân và thuyết phục con người hành động theo những cách có lợi cho nó nhưng không tốt cho tất cả chúng ta, một năng lực có thể gây ra những hệ lụy sâu rộng”, ông nói.

Ông nhấn mạnh: “Về lâu dài, AI thậm chí có thể không cần đến con người nữa để thực hiện các công việc thực tế trong thế giới vật lý. Trong kịch bản cực đoan đó, kết quả có thể là sự hủy diệt nhân loại”.

Ông thừa nhận đó là “kịch bản cực đoan”, song lưu ý rằng ngay cả khi chỉ một hệ thống ngân hàng bị đánh sập, “hệ quả vẫn cực kỳ, cực kỳ nghiêm trọng”.

Các công ty AI lớn nhất thế giới gồm OpenAI, Anthropic và Google đã bắt đầu hợp tác xây dựng một cơ quan tiêu chuẩn. Sự phối hợp này dường như ngầm thừa nhận mối lo ngại sự cạnh tranh giữa các công ty và các quốc gia có thể gạt bỏ yếu tố an toàn sang một bên.

Đối với ông Bengio, việc thuần phục sự tiến bộ của AI là “một thách thức quốc tế, có phần giống như vũ khí hạt nhân”.

“Do đó, cộng đồng quốc tế cần hiểu được sức mạnh mà chúng ta đang đưa vào thế giới, và sức mạnh đó phải được quản lý, phải được trị an thông qua các thể chế, hiệp ước và các rào cản. Xã hội cần có thời gian để thiết lập những gì cần phải thiết lập”, ông nói.

Tuy nhiên, ý chí chính trị giữa các chính phủ chủ chốt dường như không đồng đều.

Tổng thống Mỹ Donald Trump vào ngày 14/9 đã bác bỏ những cảnh báo về rủi ro AI, gọi đó là những “trò lừa”.

Trong khi đó, Chủ tịch Ủy ban châu Âu Ursula von der Leyen hôm 16/9 tuyên bố sẽ mời các phòng thí nghiệm AI lớn nhất thế giới tham gia thảo luận về “cách hỗ trợ các nỗ lực hiện tại của ngành nhằm điều phối tốc độ của ranh giới công nghệ”.

Thủ tướng Canada Mark Carney cũng nhiều lần đề cập đến việc hợp tác với EU về an toàn AI.

Ông Bengio nhấn mạnh, tất cả các doanh nghiệp phải tuân thủ các hạn chế pháp lý về AI trong tương lai, đặc biệt là các công ty có trụ sở tại Mỹ vốn đang thống trị lĩnh vực này.