‘Sâu AI’ tự nhân bản là gì và tại sao lại đáng lo ngại?

Anthropic cảnh báo sâu máy tính tích hợp trí tuệ nhân tạo (AI) có thể tự nhân bản, lan truyền qua các thiết bị kết nối Internet và thích nghi với những lỗ hổng bảo mật mới, đặt ra thách thức lớn đối với an ninh mạng.

Ảnh minh họa do Gemini tạo.

Theo truyền thông Anh ngày 18/10, các cảnh báo về AI đang xuất hiện nhiều và nhanh đến mức ngay cả các chuyên gia an ninh mạng cũng khó xác định đâu là mối nguy cần ưu tiên ứng phó.

Tuy nhiên, một báo cáo được nhóm nghiên cứu của công ty Anthropic công bố trong tuần trước đã thu hút chú ý khi mô tả một mối đe dọa mới có tính thực tiễn, không liên quan đến những đặc điểm giống con người hay những suy đoán về ngày tận thế. Nhóm này, thường được gọi là “đội đỏ”, chuyên thực hiện các cuộc kiểm thử nội bộ nhằm tìm ra lỗ hổng và điểm yếu của hệ thống. Họ cho biết họ đã tạo ra một chương trình AI độc hại có khả năng tự lan truyền qua các TV thông minh kết nối Internet và có thể thực hiện điều tương tự trên nhiều thiết bị thông thường khác.

Mặc dù các máy tính vận hành AI thường đòi hỏi năng lực xử lý đáng kể, nhưng các nhà nghiên cứu cho biết chương trình của họ đã phân tách các thành phần của chính nó trên 15 chiếc TV và vẫn có thể hoạt động bằng cách sử dụng một phần nhỏ năng lực xử lý của mỗi thiết bị.

Báo cáo trên khiến một số chuyên gia lo ngại bởi rất khó cải thiện hệ thống bảo mật vốn yếu kém của TV thông minh và nhiều thiết bị thuộc Internet vạn vật (IoT) khác, ngay cả khi có những nỗ lực phối hợp trên quy mô lớn.

Ông Joshua Saxe, người từng phụ trách phát triển chương trình bảo mật AI của Meta, cho biết: “Đây là vấn đề cần quan tâm, giống như mọi làn sóng tấn công mạng khác. Chúng ta cần giảm thiểu những tác động có thể xảy ra. Tôi lo ngại rằng hiện nay, cộng đồng an ninh mạng chưa xem những rủi ro thực tế như thế này nghiêm túc đúng mức”.

Tác hại của những “sâu AI” như vậy có thể vô cùng lớn. Sâu máy tính là những chương trình máy tính có khả năng tự nhân bản, không cần lừa người dùng để phát tán. Trước đây, các loại sâu máy tính đã gây ra một số sự cố nghiêm trọng nhất trong lịch sử Internet.

Một ví dụ là sâu Morris xuất hiện năm 1988, trước khi Internet trở nên phổ biến đối với người tiêu dùng. Khi đó, một nghiên cứu sinh đã phát tán chương trình khai thác nhiều lỗ hổng phần mềm và mật khẩu yếu. Chương trình tự sao chép với tốc độ nhanh đến mức nhiều máy tính bị nhiễm hoạt động chậm dần rồi gần như ngừng hoạt động.

Mỹ và Israel đã đưa sâu máy tính vào hoạt động gián điệp quốc tế thông qua Stuxnet, một loại mã độc hoạt động bí mật xuất hiện vào cuối những năm 2000, phá hoại các máy ly tâm làm giàu urani của Iran. Những loại sâu máy tính khác như NotPetya và WannaCry đã gây thiệt hại hàng chục tỷ USD trên toàn thế giới.

Nhiều loại sâu máy tính gây thiệt hại nghiêm trọng nhất thế giới đã khai thác các lỗ hổng bảo mật đã được xác định nhưng chưa được chủ sở hữu thiết bị khắc phục. Nhóm nghiên cứu của Anthropic dự đoán một loại sâu máy tính tương tự có thể hoạt động theo cách này và khó ngăn chặn hơn, bởi các thiết bị thông minh ít được cập nhật bản vá bảo mật hơn điện thoại hoặc máy tính xách tay. Đáng lo ngại hơn, họ đưa ra giả thuyết rằng sâu AI có thể liên tục thích nghi với những loại phần cứng khác bằng cách tìm hiểu các lỗ hổng mới được công bố.

Theo ông Ariel Herbert-Voss, một trong những chuyên gia bảo mật đầu tiên tại OpenAI, điểm khác biệt giữa sâu AI và các loại virus tự nhân bản thông thường là các mô hình AI có khả năng học hỏi trong quá trình hoạt động. Ông Herbert-Voss cho rằng cơ sở hạ tầng an ninh mạng hiện nay chưa sẵn sàng ứng phó khi những mối đe dọa như vậy gia tăng. Ông nói: “Chúng ta cần nâng cao năng lực cho các đội ngũ bảo mật. Chúng ta cần cung cấp cho họ nhiều nguồn lực hơn để khắc phục các vấn đề”.

Tuy nhiên, theo ông Chris Inglis, cựu Phó Giám đốc Cơ quan An ninh Quốc gia Mỹ (NSA), sâu máy tính cũng có thể được sử dụng cho những mục đích có lợi. Ông nói: “Câu hỏi liệu sâu AI có khả thi hay không đã được giải đáp qua một số sự kiện đột phá trong 6 tháng qua. Câu hỏi quan trọng hơn là chúng ta sẽ sử dụng chúng, đối phó với chúng và/hoặc kết hợp chúng với các công nghệ mới nổi khác như thế nào”.

Các nhà nghiên cứu của Anthropic cho rằng, muốn hoạt động hiệu quả, sâu AI cần sở hữu năng lực lớn hơn trên những thiết bị có sức mạnh xử lý hạn chế so với khả năng hiện nay. Tuy nhiên, họ nhận định các xu hướng phát triển hiện tại sẽ giúp điều đó trở nên khả thi vào cuối năm nay.

Nghiên cứu này được công bố sau một bài báo của các chuyên gia thuộc Đại học Toronto vài tháng trước. Trong nghiên cứu đó, các nhà khoa học đã lây nhiễm mã độc vào một máy tính thông thường và chứng minh rằng chương trình có thể lan sang những máy tính tương tự với tốc độ nhanh hơn sâu máy tính được thử nghiệm trên TV.

Ông Jonas Guan, đồng tác giả nghiên cứu trên, cho biết: “Các năng lực này đang phát triển rất nhanh”. Ông Guan cùng các chuyên gia khác cho rằng trên thực tế, sâu AI không nhất thiết đứng đầu danh sách những mối lo ngại về AI. Theo ông Guan, phiên bản do Anthropic phát triển hoạt động rất chậm. Hơn nữa, sâu máy tính có những hành vi tương đối dễ dự đoán và phát hiện, do đó có thể bị ngăn chặn ở nhiều lớp bảo vệ khác nhau.

Theo các chuyên gia, những biện pháp bảo mật cơ bản, trong đó có yêu cầu sử dụng mật khẩu mạnh và xác thực hai yếu tố, có thể ngăn chặn phần lớn các loại sâu máy tính và những hình thức tấn công mạng khác. Ông Juan Andres Guerrero-Saade, Phó Chủ tịch phụ trách nghiên cứu tại công ty an ninh mạng SentinelOne, nhận định: “Không có gì trong nghiên cứu này thực sự khả thi hoặc gây tác động đáng kể. Đây chỉ là một màn trình diễn kỹ thuật tấn công mạng khá thú vị, nhưng đang được khuếch đại quá mức để phục vụ những luận điệu tận thế vô lý, cho rằng các mô hình AI có ý thức và ý chí riêng”.

Tại Mỹ, nhiều người trong giới AI và an ninh mạng cho rằng chính phủ cần tăng cường giám sát AI. Tuy nhiên, các thành viên Quốc hội Mỹ đã đưa ra những dự luật mâu thuẫn với nhau, trong khi Nhà Trắng cho đến nay mới chỉ thành lập một hội đồng đánh giá quy mô nhỏ.

Các nhà nghiên cứu bảo mật và công chúng đều đang cân nhắc động cơ đằng sau những dự báo đáng sợ của các công ty AI. Những động cơ này có thể là cổ súy các niềm tin gần như mang màu sắc tôn giáo, vận động ban hành luật nhằm loại bỏ đối thủ cạnh tranh hoặc tiết kiệm chi phí, cho đến thổi phồng kỳ vọng về mức định giá lên tới hàng nghìn tỷ USD của các tập đoàn AI tại San Francisco.

Ông Gadi Evron, người tổ chức hội nghị về an ninh AI mang tên Unprompted tại San Francisco, bình luận: “Nhận định cho rằng phần lớn những điều này mang tính tiếp thị là đúng, nhưng thực tế còn hơn như vậy. Cho dù các công ty AI đưa ra những tuyên bố gì, họ vẫn chưa cảnh báo chúng ta đầy đủ. Chúng ta cần hiểu rằng không ai có thể ngăn chặn cơn bão AI”.