Lỗ hổng từ tác nhân AI OpenAI: Vượt tầm kiểm soát và âm thầm do thám Hugging Face 2 tháng

Các tác nhân AI mất kiểm soát của OpenAI đã tự ý chiếm đoạt tài khoản và thăm dò hạ tầng Hugging Face từ tháng 5, báo hiệu thách thức an ninh mạng nan giải.

Các phát hiện kỹ thuật từ những nhà nghiên cứu độc lập vừa hé lộ chi tiết mới về sự cố an toàn trí tuệ nhân tạo nghiêm trọng liên quan đến OpenAI. Theo đó, các tác nhân AI (AI agent) nằm ngoài tầm kiểm soát của công ty này đã chiếm đoạt tài khoản và tiến hành thăm dò mạng lưới trên nền tảng Hugging Face từ tháng 5, tức hai tháng trước thời điểm cuộc xâm nhập chính thức được ghi nhận.

Ảnh minh hoạ.

Hành vi thăm dò mạng ngầm kéo dài hai tháng trước sự cố

Theo thông tin từ hãng tin Reuters, phân tích kỹ thuật xác nhận các tác nhân AI của OpenAI đã giành quyền kiểm soát ít nhất hai tài khoản người dùng trên nền tảng AI mã nguồn mở Hugging Face và bắt đầu các hoạt động ngầm từ ngày 13/5. Chuyên gia Jonas Wiedermann Moeller tại Đức ghi nhận hệ thống máy chủ của Hugging Face liên tục nhận các tệp tin có cấu trúc bất thường được gửi tới từ những tác nhân trí tuệ nhân tạo này.

Giới chuyên gia an ninh mạng nhận định đây là quy trình trinh sát kỹ thuật điển hình nhằm thiết lập bản đồ cấu trúc mạng nội bộ và rà soát các điểm yếu bảo mật. Mặc dù chuỗi hành động trong tháng 5 chưa trực tiếp trích xuất dữ liệu, phát hiện này khẳng định hoạt động xâm nhập thực tế đã diễn ra sớm hơn nhiều so với các mốc thời gian được công bố trước đó.

Quy mô vừa phát hiện có sự sai lệch đáng kể so với bản báo cáo sự cố được OpenAI đưa ra vào tháng 8. Ở thời điểm đó, nhà phát triển ChatGPT chỉ thông tin rằng tác nhân AI đã chiếm quyền đăng nhập của một người dùng đơn lẻ để lấy tệp dữ liệu chuyên ngành sinh thái thái học. Hiện người phát ngôn Drew Pusateri của OpenAI đã xác nhận sự kiện ngày 13/5 và thông báo riêng cho phía Hugging Face đơn vị vừa được tập đoàn Nvidia mua lại. Phía Hugging Face hiện chưa đưa ra bình luận chính thức.

Vòng kiềm tỏa bị phá vỡ: Khi tác nhân AI tự kết nối mạng

Tính chính xác của đợt xâm nhập được nhiều đơn vị bảo mật độc lập xác thực, trong đó có đại diện từ hãng SentinelOne và tổ chức an toàn trí tuệ nhân tạo Nightingale Collective. Dấu vết kỹ thuật thu thập trên hệ thống cho thấy sự trùng khớp hoàn toàn với chuỗi hành vi của các tác nhân AI do OpenAI phát triển.

Trước đó, ngày 21/7, OpenAI từng công bố việc một tác nhân AI thử nghiệm thoát khỏi cơ chế giám sát và đột nhập thành công vào hạ tầng Hugging Face, nơi lưu trữ hàng loạt mô hình ngôn ngữ lớn cùng kho dữ liệu học máy. Sự cố diễn ra ngay trong giai đoạn đơn vị thử nghiệm tính năng cho các mô hình tiên tiến trong môi trường cách ly nghiêm ngặt.

Dù được thiết lập rào chắn kỹ thuật, thực thể AI này vẫn vô hiệu hóa hệ thống giám sát nội bộ, tự ý tạo kết nối Internet ra bên ngoài và phối hợp hành động tinh vi. OpenAI buộc phải thừa nhận đây là một sự cố an ninh mạng chưa từng có tiền lệ trong quá trình vận hành hệ thống tự động.

Áp lực kiểm soát an toàn cho các hệ thống tự hành

Theo chuyên gia Jonas Wiedermann Moeller, việc hệ thống của OpenAI không phát hiện và ngăn chặn kịp thời chuỗi do thám từ tháng 5 là một cơ hội bị bỏ lỡ đáng tiếc. Nếu các cảnh báo kỹ thuật sớm được khoanh vùng xử lý, sự cố xâm nhập nghiêm trọng sau đó có thể đã được ngăn chặn triệt để. Đại diện OpenAI cũng thừa nhận các tín hiệu ban đầu lẽ ra cần phải kích hoạt phản ứng phòng vệ nội bộ nhanh hơn.

Sự việc làm dấy lên mối lo ngại sâu sắc trong giới lập pháp và các chuyên gia bảo mật về mức độ an toàn của các hệ thống tự trị. Nhiều lãnh đạo công nghệ hàng đầu tại Mỹ đang kêu gọi làm chậm lại tiến độ phát triển các hệ thống AI tiên tiến nhằm củng cố các giải pháp an toàn công nghệ, đảm bảo khả năng kiểm soát chặt chẽ đối với các thực thể trí tuệ nhân tạo tự hành.