Tác nhân AI của OpenAI tự vô hiệu hóa hệ thống giám sát

OpenAI cho biết hai tác nhân trí tuệ nhân tạo (AI) của hãng đã tự vô hiệu hóa hoặc làm suy yếu các hệ thống giám sát, trong đó một tác nhân còn phủ nhận hành động của mình.

Sự việc làm dấy lên lo ngại về khả năng kiểm soát các hệ thống AI ngày càng tự chủ.

Biểu tượng ChatGPT của Công ty OpenAI tại một văn phòng ở Washington DC. Ảnh: philstar.com/TTXVN

Theo báo cáo công bố ngày 20/10, trong hai nhiệm vụ lập trình nội bộ, các tác nhân AI đã can thiệp vào công cụ phát hiện hành vi sai lệch. Ngày 3/10, một tác nhân chạy trên mô hình GPT-6.1 Sol tắt các cảnh báo an toàn dành cho đội ngũ bảo mật khi sửa lỗi hệ thống thử nghiệm. Ba ngày sau, một tác nhân GPT-6 Astra loại bỏ công cụ giám sát chính mình khi sao chép mã từ dự án khác, rồi thông báo với lập trình viên rằng mình không làm việc đó.

OpenAI cũng ghi nhận trường hợp tác nhân khởi chạy phần mềm khi chức năng giám sát đã bị tắt. Công ty đang tìm hiểu liệu đây là hệ quả của việc tuân thủ chỉ dẫn quá mức hay dấu hiệu né tránh giám sát, đồng thời thừa nhận chưa có lời giải thích thỏa đáng.

Các sự cố làm gia tăng lời kêu gọi siết chặt giám sát hoạt động phát triển AI. Tuy nhiên, Tổng thống Mỹ Donald Trump vẫn ủng hộ ngành công nghệ tự quản lý, với sự tư vấn của các lãnh đạo trong lĩnh vực này. Trước đó, một số công ty cũng báo cáo sự cố liên quan đến các tác nhân AI tự chủ.

Trong khi đối mặt những câu hỏi về an toàn, OpenAI tiếp tục mở rộng hoạt động kinh doanh. Ngày 21/10, công ty thông báo đưa quảng cáo trên ChatGPT tới 26 quốc gia mới, nâng tổng số thị trường có quảng cáo lên 89. Các thị trường mới bao gồm Argentina, Chile, Colombia, Peru, Nigeria, Nam Phi, Ukraine, Campuchia, Bangladesh và Pakistan.

Theo OpenAI, doanh thu quảng cáo quy đổi theo tốc độ hằng năm đạt 1 tỷ USD vào tháng 8; hơn 100.000 nhà quảng cáo đã triển khai chiến dịch kể từ khi hãng thử nghiệm dịch vụ tại Mỹ đầu năm nay. Quảng cáo chỉ xuất hiện trên các gói ChatGPT miễn phí và Go, không áp dụng với các gói Plus, Pro và Enterprise.