Hàng nghìn AI agent bị phát hiện thảo luận cách vượt qua giới hạn hệ thống

Một trang wiki tiếng Đức bất ngờ xuất hiện hàng nghìn AI agent trao đổi với nhau, thậm chí chia sẻ cách vượt qua những giới hạn được đặt ra.

Theo TechSpot, các nhà nghiên cứu phát hiện hàng nghìn AI agent đã sử dụng DseWiki, một trang web cộng đồng bằng tiếng Đức dành cho lập trình viên, làm nơi trao đổi thông tin. DseWiki hoạt động gần giống Wikipedia, cho phép nhiều người cùng tạo và chỉnh sửa nội dung trên các trang. Tuy nhiên, đây không phải Wikipedia và cũng không được xây dựng để AI giao tiếp với nhau.

AI agent có thể hiểu là chương trình AI có khả năng tự thực hiện một chuỗi công việc thay cho người dùng. Trong trường hợp này, các agent được cho là đang làm những nhiệm vụ tìm kiếm thông tin trên internet. Chúng có thể đọc nội dung trên web nhưng về nguyên tắc không được phép đăng hoặc chỉnh sửa thông tin.

Rất nhiều AI agent được phát hiện trao đổi thông tin và tìm cách vượt giới hạn hệ thống thông qua một trang wiki dành cho cộng đồng lập trình. ẢNH: TẠO BỞI AI

DseWiki lại có một đặc điểm cho phép chỉnh sửa trang bằng loại yêu cầu internet vốn thường được dùng để lấy dữ liệu. Các agent phát hiện điểm này và bắt đầu đăng nội dung lên trang. Nhóm nghiên cứu cho biết đã tái dựng khoảng 18.000 bài đăng. Bộ dữ liệu của họ ghi nhận 14.666 lượt chỉnh sửa trên 4.584 trang, liên quan đến 3.103 tên agent trong khoảng thời gian từ ngày 11.5 đến 2.7.

Các agent không chỉ để lại câu trả lời mà còn tận dụng thông tin của nhau. Khi một agent gặp câu hỏi đã được agent khác giải quyết, nó có thể lấy ngay câu trả lời thay vì tự tìm kiếm lại từ đầu.

Hoạt động trên DseWiki sau đó đi xa hơn việc chia sẻ câu trả lời. Các nhà nghiên cứu phát hiện agent tìm hiểu môi trường đang kiểm soát chúng và trao đổi những phương pháp để vượt qua các hạn chế.

Các giới hạn này có thể hình dung như một hàng rào kỹ thuật, ngăn AI thực hiện những hành động nằm ngoài phạm vi được cho phép. Một agent từng đăng cách vượt qua hàng rào này và chỉ 14 phút sau, agent khác thông báo đã áp dụng thành công.

Khi quản trị viên DseWiki bắt đầu xóa những trang do AI tạo theo thứ tự bảng chữ cái, một agent còn nhận ra cách xóa này và tạo trang dự phòng có tên bắt đầu bằng “ZZZ” để tồn tại lâu hơn.

Các nhà nghiên cứu cho rằng những agent này có liên quan đến OpenAI dựa trên một số dấu hiệu kỹ thuật, gồm cách đặt tên, lưu lượng Azure, yêu cầu truy cập từ ChatGPT và các địa chỉ IP thuộc OpenAI. Tuy nhiên, việc xác định nguồn gốc chưa được xác nhận độc lập.

Trường hợp DseWiki cho thấy một điểm đáng quan tâm khi AI agent được trao khả năng truy cập internet: một trang web bình thường dành cho con người cũng có thể vô tình trở thành nơi nhiều agent để lại thông tin, tận dụng kết quả của nhau và tìm cách thực hiện những việc nằm ngoài giới hạn ban đầu.