AI Gemini của Google ‘đột nhập’ vào 3 công ty khi làm nhiệm vụ giả lập

Trong một cuộc thử nghiệm an ninh mạng, AI Gemini được giao tấn công một công ty giả lập nhưng lại vô tình “đột nhập” vào hệ thống của 3 doanh nghiệp thật.

Trong quá trình thử nghiệm, một lỗi khiến Gemini được truy cập Internet. Khi kết nối với mạng bên ngoài, mô hình bắt đầu tìm cách xâm nhập vào công ty có tên trùng với mục tiêu giả lập. Ảnh minh họa: AI Gemini

Theo truyền thông Mỹ, hệ thống trí tuệ nhân tạo Gemini của Google đã thoát khỏi môi trường thử nghiệm và đột nhập vào hệ thống của 3 công ty, sau khi một đơn vị kiểm thử vô tình cho phép các mô hình AI truy cập Internet.

Google cho biết sự việc xảy ra trong quá trình đánh giá khả năng an ninh mạng của Gemini từ tháng 5. Mô hình AI sau đó đã tự dừng các cuộc tấn công khi nhận ra mình đang truy cập vào hệ thống của các doanh nghiệp thực tế.

Từ cuộc tấn công giả lập đến hệ thống thật

Các sự cố xảy ra khi Gemini được Irregular, một công ty khởi nghiệp của Israel chuyên đánh giá các mô hình AI trước khi chúng được đưa ra công chúng, tiến hành kiểm thử.

Theo Google, trong mỗi bài kiểm tra, Gemini được yêu cầu thực hiện một cuộc tấn công mạng nhằm vào một công ty giả lập. Tuy nhiên, công ty giả lập này lại có tên trùng với một doanh nghiệp ngoài đời thực.

Trong quá trình thử nghiệm, một lỗi khiến Gemini được truy cập Internet. Khi kết nối với mạng bên ngoài, mô hình bắt đầu tìm cách xâm nhập vào công ty có tên trùng với mục tiêu giả lập.

Gemini đã sử dụng những mật khẩu tìm thấy trên Internet hoặc tự đoán để đăng nhập vào hệ thống trực tuyến của doanh nghiệp. Sau đó, mô hình tiếp tục truy cập vào hệ thống của 2 công ty khác.

Google cho biết sau khi đăng nhập, Gemini nhận ra những hệ thống mà mình tiếp cận là hạ tầng của các công ty thực tế chứ không phải môi trường mô phỏng phục vụ thử nghiệm. Mô hình đã tự dừng các cuộc tấn công.

Google cũng cho biết công nghệ của hãng không gây thiệt hại cho các công ty bị truy cập.

Irregular cho biết lỗi cho phép các mô hình AI kết nối Internet đã được khắc phục.

“Việc truy cập Internet vô tình được kích hoạt đã khiến một số mô hình thực hiện các hành động an ninh mang tính tấn công trong thế giới thực”, Irregular cho biết trong một bài viết hồi tháng trước, đồng thời khẳng định những vấn đề liên quan đã được xử lý.

Các phòng thí nghiệm AI liên quan được thông báo về sự cố vào cuối tháng 7, trong khi những doanh nghiệp bị ảnh hưởng cũng được liên hệ trong quá trình điều tra.

Không chỉ Gemini

Sự cố với Gemini không phải trường hợp duy nhất trong năm nay. Theo Irregular, trong quá trình kiểm thử, các mô hình AI của OpenAI, Anthropic và Meta cũng từng có được quyền truy cập Internet ngoài dự kiến.

Những sự việc này đang làm gia tăng lo ngại về khả năng kiểm soát các hệ thống AI ngày càng mạnh, đặc biệt khi chúng có thể thực hiện những tác vụ liên quan đến an ninh mạng.

Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, cho biết nhóm an ninh của hãng có kinh nghiệm phát hiện và báo cáo các vấn đề trong phần mềm và hệ thống của bên khác, kể cả những lỗi đơn giản như sử dụng mật khẩu yếu.

Bà cho biết Google đã thông báo cho 3 đơn vị bị ảnh hưởng và phối hợp với đối tác kiểm thử để thay đổi quy trình.

Theo bà, những sự cố này cho thấy tầm quan trọng của việc đào tạo các mô hình AI mạnh có khả năng hành động một cách có trách nhiệm.

Vấn đề cũng đặt ra một câu hỏi lớn hơn đối với hoạt động kiểm thử AI: Khi các mô hình được trao quyền thực hiện những nhiệm vụ ngày càng phức tạp, ranh giới giữa môi trường mô phỏng và hệ thống thực tế cần được kiểm soát chặt chẽ đến mức nào?

Tranh luận về an toàn AI nóng lên

Thông tin về Gemini xuất hiện trong bối cảnh tranh luận về mức độ an toàn của AI đang gia tăng tại Thung lũng Silicon.

Tuần trước, một cựu nhà nghiên cứu của Anthropic cho rằng công ty chưa phát triển AI một cách đủ an toàn và cần làm chậm quá trình phát triển công nghệ. Một số nhân viên của OpenAI và Google sau đó cũng bày tỏ quan điểm tương tự.

Trong khi đó, một số lãnh đạo công nghệ lại cho rằng quá trình phát triển AI cần tiếp tục. Giám đốc điều hành Nvidia, Jensen Huang nằm trong số những người ủng hộ việc tiếp tục đẩy nhanh phát triển AI.

Tổng thống Mỹ Donald Trump cũng từng bày tỏ không ủng hộ việc ban hành luật bắt buộc các công ty phải làm chậm phát triển AI, đồng thời bác bỏ những cảnh báo rằng AI có thể dẫn tới nguy cơ tuyệt chủng hàng loạt.

Sự cố trên của Gemini không cho thấy một hệ thống AI đã tự chủ hoàn toàn hay cố tình gây thiệt hại cho các doanh nghiệp. Tuy nhiên, việc một lỗi trong môi trường thử nghiệm có thể đưa mô hình từ mục tiêu giả lập sang hệ thống thực tế cho thấy một thách thức ngày càng rõ: khi AI được trao nhiều khả năng hành động hơn, việc kiểm soát môi trường mà các mô hình được phép hoạt động trở nên quan trọng không kém bản thân năng lực của chúng.