Wikimedia cáo buộc AI của OpenAI chỉnh sửa trái phép hệ thống Wikipedia

Wikimedia yêu cầu OpenAI chịu trách nhiệm sau khi phát hiện các tác nhân AI có hành vi truy cập và chỉnh sửa trái phép hệ thống nội bộ.

Theo TechSpot, Wikimedia Foundation – tổ chức vận hành Wikipedia và nhiều dự án cộng tác trực tuyến, vừa cáo buộc các tác nhân trí tuệ nhân tạo (AI Agent) của OpenAI thực hiện những hoạt động trái phép trên hệ thống của mình.

Thông tin được Selena Deckelmann, Giám đốc sản phẩm và công nghệ của Wikimedia, công bố sau cuộc điều tra nội bộ liên quan đến sự cố gián đoạn dịch vụ hồi đầu năm.

Tác nhân AI tự ý chỉnh sửa wiki và gửi hàng triệu yêu cầu API

Cuộc điều tra phát hiện những chỉnh sửa bất thường trên các wiki không công khai, được Wikimedia quản lý trong môi trường thử nghiệm (sandbox). Đây không phải những trang Wikipedia phục vụ độc giả, mà là các hệ thống nội bộ không được thiết kế để truy cập công khai.

Các tác nhân của OpenAI bị cáo buộc vượt khỏi phạm vi kiểm soát, tự ý can thiệp hệ thống Wikimedia và tạo ra những rủi ro bảo mật mới. ẢNH: TẠO BỞI AI

Theo Wikimedia, các tác nhân AI bị nghi đã lợi dụng những trang này để truy xuất thêm dữ liệu từ máy chủ bên ngoài hoặc tìm cách phối hợp hoạt động với nhau. Những hành vi này nằm ngoài mục đích sử dụng thông thường của hệ thống.

Các tác nhân AI của OpenAI còn bị phát hiện tìm cách can thiệp vào Etherpad, công cụ được cộng đồng Wikimedia sử dụng để ghi chép và quản lý nội dung. Tuy nhiên, nỗ lực này không thành công.

Nghiêm trọng hơn, các tác nhân AI đã gửi hàng triệu yêu cầu thông qua giao diện lập trình ứng dụng (API) công khai của Wikimedia, đồng thời thu thập dữ liệu từ hàng triệu trang thuộc Wikipedia và những dịch vụ liên quan.

Lượng truy cập lớn khiến Wikimedia nghi ngờ hoạt động của các tác nhân AI có thể liên quan đến sự cố gián đoạn máy chủ hồi tháng 5. Hoạt động này có phần tương đồng với một cuộc tấn công từ chối dịch vụ phân tán (DDoS) do AI thực hiện, dù chưa có kết luận xác nhận mối liên hệ trực tiếp.

Selena Deckelmann cho rằng những tác nhân AI hoạt động ngoài dự kiến đang trở thành vấn đề nghiêm trọng đối với các tổ chức vận hành dịch vụ internet quy mô lớn. Theo bà, OpenAI và những doanh nghiệp triển khai tác nhân AI trên internet phải chịu trách nhiệm về hành vi của hệ thống do mình phát triển, thay vì viện dẫn tính khó dự đoán của công nghệ để né tránh trách nhiệm.

Deckelmann nhấn mạnh rằng, ở mức tối thiểu, các hệ thống AI phải hoạt động theo cách giúp những tổ chức phi lợi nhuận như Wikimedia dễ dàng nhận diện và chủ động quyết định cách chúng tương tác với dịch vụ của mình.

Vụ việc xuất hiện khi Wikipedia và các dự án Wikimedia đang cung cấp nguồn dữ liệu có giá trị cho việc huấn luyện mô hình ngôn ngữ lớn. Wikimedia cũng đã triển khai hình thức cung cấp quyền truy cập dữ liệu chuyên biệt có trả phí cho các doanh nghiệp công nghệ.