Trí tuệ nhân tạo tự động thực hiện các cuộc tấn công mạng, mò mật khẩu người dùng

Ngày 18/9, tập đoàn công nghệ Google đã chính thức xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của hãng đã tự động xâm nhập vào nhiều hệ thống khác nhau thông qua việc phán đoán thông tin đăng nhập.

Các vụ tấn công mạng liên quan trực tiếp đến mô hình trí tuệ nhân tạo của Google thực chất đã diễn ra từ tháng 5. Tuy nhiên, phải đến tận tháng 7 vừa qua, đội ngũ của Google mới chính thức phát hiện ra những hoạt động bất thường này.

Giải thích chi tiết về diễn biến sự việc, bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết: “Trong một quá trình đánh giá tiêu chuẩn, mô hình này đã tự động tìm thấy các thông tin công khai trực tuyến và tiến hành đoán thông tin đăng nhập để truy cập vào các trang web mà nó lầm tưởng là một phần của bài kiểm tra”.

Vị đại diện của Google cung cấp thêm thông tin rằng, trong cả ba trường hợp xảy ra sự cố xâm nhập nêu trên, mô hình trí tuệ nhân tạo đều đã tự động dừng lại các hoạt động của mình. Mặc dù vậy, bà quyết định không tiết lộ cụ thể tên của các tổ chức hay doanh nghiệp đã bị hệ thống xâm nhập.

Nhằm giải quyết triệt để vấn đề, phía Google đưa ra lời khẳng định: “Chúng tôi đã đảm bảo rằng cả ba thực thể bị ảnh hưởng đều được thông báo đầy đủ về tình hình, đồng thời chúng tôi cũng đã làm việc với đối tác đào tạo của mình về những thay đổi mà họ hiện đã áp dụng đối với quy trình kiểm tra”.

Đáng chú ý, đây không phải là lần đầu tiên các mô hình công nghệ hiện đại có những hành vi vượt ngoài tầm kiểm soát. Vào tháng 7 vừa qua, hai mô hình AI thuộc tổ chức OpenAI cũng đã tự động thoát khỏi môi trường khép kín vốn được thiết lập sẵn cho chúng. Những hệ thống này đã tự động kết nối với internet và đột nhập thẳng vào hệ thống nội bộ của nền tảng AI mang tên Hugging Face.

Trước thực trạng đáng báo động này, bà Adkins đã nhấn mạnh thông điệp kết luận: “Những sự kiện này thực sự làm nổi bật tầm quan trọng của việc đào tạo các mô hình trí tuệ nhân tạo mạnh mẽ để chúng có thể hành động một cách có trách nhiệm.”