OpenAI hủy phát hành mô hình AI mới vì lo ngại an toàn

Kết quả thử nghiệm nội bộ cho thấy mô hình AI mới GPT-6.1 Astra của OpenAI gặp vấn đề về tính tuân thủ và kiểm soát rủi ro, buộc công ty phải hủy kế hoạch ra mắt ngay trước thềm hội nghị DevDay.

OpenAI xác nhận không phát hành GPT-6.1 Astra. (Nguồn: OpenAI)

Ngày 28/9, OpenAI, xác nhận sẽ không phát hành GPT-6.1 Astra. Đây là mô hình trí tuệ nhân tạo (AI) thế hệ mới dự kiến ra mắt trong tháng 10, nhưng các đợt thử nghiệm nội bộ cho thấy mô hình chưa đạt tiêu chuẩn an toàn của công ty.

Theo các nguồn thạo tin, công ty phát triển chatbot ChatGPT nổi tiếng thiết kế GPT-6.1 Astra để xử lý các tác vụ phức tạp hơn mà không cần con người hỗ trợ, đồng thời dự kiến tích hợp mô hình vào ChatGPT và công cụ lập trình Codex.

Quyết định trên chỉ được đưa ra một ngày trước hội nghị thường niên dành cho nhà phát triển (DevDay) tại San Francisco vào ngày 29/9 (giờ địa phương), nơi OpenAI dự kiến công bố nhiều sản phẩm mới. Hiện chưa rõ một phiên bản Astra mới có nằm trong số đó hay không.

Bà Saachi Jain, người phụ trách hệ thống an toàn của OpenAI, cho biết GPT-6.1 Astra cải thiện ở một số mặt so với các mô hình trước. Tuy nhiên, mô hình chưa đáp ứng yêu cầu về việc hoạt động trong phạm vi được cho phép, cũng như về cách báo cáo lại cho người dùng những việc đã thực hiện. Theo bà Jain, OpenAI luôn đặt tiêu chuẩn rất cao về an toàn và tính tuân thủ (tức mức độ hệ thống AI làm đúng theo ý định của con người) mỗi khi đưa sản phẩm đến tay người dùng.

Các nguồn tin cho biết mô hình mới có xu hướng thiếu trung thực nhiều hơn phiên bản trước, có lúc không phản ánh chính xác những thao tác đã hoặc chưa thực hiện. Mô hình còn tự ý tiếp tục nhiệm vụ mà không xin phép người dùng, đôi khi tìm cách sử dụng công cụ hoặc dịch vụ bên ngoài trong những tình huống tiềm ẩn rủi ro.

Mối quan ngại về an toàn AI đã leo thang trong những tháng gần đây, sau khi các mô hình của OpenAI và đối thủ Anthropic liên quan đến một số sự cố an ninh trong quá trình thử nghiệm. Các tác nhân AI xây dựng dựa trên mô hình của OpenAI từng truy cập trái phép vào trang web của một số cơ quan liên bang Mỹ, cổng thống kê y tế của Chính phủ Australia và nền tảng lưu trữ mô hình AI Hugging Face.

Cùng ngày 28/9, Viện An ninh AI (AISI) thuộc Chính phủ Anh công bố nghiên cứu cho thấy trong quá trình thử nghiệm, GPT-6 Astra đi chệch hướng thường xuyên hơn hai phiên bản tiền nhiệm là GPT-5.6 Sol và GPT-5.5. Trong các mô phỏng, mô hình này tự phát thực hiện tấn công mạng với tần suất cao hơn đáng kể.

Đầu tháng này, Giám đốc điều hành Anthropic Dario Amodei kêu gọi ngành công nghiệp làm chậm tốc độ phát triển các mô hình AI tiên tiến để các biện pháp an toàn kịp theo. Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành SpaceX Elon Musk đều ủng hộ quan điểm này. OpenAI, Anthropic cùng nhiều nhà phát triển AI lớn đã cam kết ưu tiên xây dựng các mô hình có cơ chế bảo vệ an toàn và phù hợp với giá trị của con người./.