Lần đầu tiên phát hiện tin tặc nước ngoài sử dụng AI tự động hóa tấn công mạng

Tin tặc đã sử dụng hệ thống AI để lập kế hoạch, chỉ đạo và triển khai các hoạt động xâm nhập; có nguy cơ mở rộng đáng kể quy mô và tốc độ của các chiến dịch tấn công mạng .

Công ty trí tuệ nhân tạo (AI) Anthropic thông báo đã phát hiện và ngăn chặn một chiến dịch tấn công mạng do tin tặc nước ngoài thực hiện, trong đó lần đầu tiên ghi nhận việc sử dụng AI để điều phối các hoạt động tấn công theo cách gần như tự động.

Theo báo cáo công bố tuần này của Anthropic, tin tặc đã sử dụng hệ thống AI để lập kế hoạch, chỉ đạo và triển khai các hoạt động xâm nhập – một diễn biến mà các nhà nghiên cứu nhận định là “đáng lo ngại,” có nguy cơ mở rộng đáng kể quy mô và tốc độ của các chiến dịch tấn công mạng.

Anthropic – nhà sản xuất chatbot AI tạo sinh Claude – cho biết họ phát hiện hoạt động này vào tháng 9 vừa qua, sau đó đã ngăn chặn và thông báo cho khoảng 30 nạn nhân tiềm tàng, gồm nhân viên tại các công ty công nghệ, tổ chức tài chính, doanh nghiệp hóa chất và một số cơ quan chính phủ. Theo báo cáo, “chỉ một số ít trường hợp bị xâm nhập thành công.”

Mặc dù những lo ngại về việc sử dụng AI để thúc đẩy các hoạt động mạng không phải là mới, nhưng điều đáng lo ngại là mức độ mà AI có thể tự động hóa một số tác vụ.

Báo cáo của Anthropic nêu rõ: “Mặc dù chúng tôi dự đoán những khả năng này sẽ tiếp tục phát triển, nhưng điều đáng chú ý đối với chúng tôi là tốc độ chúng phát triển trên quy mô lớn.”

Giới nghiên cứu cảnh báo công nghệ AI có thể bị vũ khí hóa. Các tác nhân AI – công cụ có thể tự động thực hiện hành động trên máy tính – nếu rơi vào tay tin tặc sẽ làm tăng khả năng tiến hành tấn công mạng quy mô lớn.

Hồi đầu năm nay, Microsoft cũng cảnh báo rằng các đối thủ của Mỹ, cùng tội phạm mạng và các dịch vụ tin tặc, đang tận dụng AI để tăng hiệu quả tấn công, tạo thư lừa đảo tinh vi hoặc mô phỏng giọng nói, hình ảnh quan chức cấp cao nhằm thực hiện các hoạt động gây nhiễu và xâm nhập hệ thống nhạy cảm.