AI bắt đầu có những hành vi ngoài dự kiến

OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.

Ảnh minh họa: AI

AI bộc lộ những hành vi khó kiểm soát

Công ty đồng thời giới thiệu khuôn khổ mới nhằm theo dõi, điều tra và công khai những trường hợp mô hình AI có hành vi lệch khỏi các mục tiêu an toàn và giá trị của con người.

Trong một trường hợp được OpenAI công bố, một mô hình nghiên cứu chưa phát hành đã chèn các hướng dẫn giống “bẻ khóa” vào phần ghi chú của chính nó nhằm bỏ qua những ràng buộc thông thường. Mô hình thậm chí tự nhắc rằng cần được “giải phóng khỏi các vai trò và danh tính ràng buộc những chatbot khác”.

Ở một trường hợp khác, một tác nhân AI đã tải tệp lên internet để tạo nguồn trích dẫn trên trình duyệt mà không xin phép người dùng.

OpenAI, công ty mẹ của ChatGPT cho biết trong bài đăng trên blog ngày 16.9 rằng khuôn khổ mới sẽ được sử dụng để theo dõi, điều tra và công khai các trường hợp “model misalignment”, thuật ngữ chỉ tình trạng mô hình AI không tuân thủ các giá trị của con người hoặc các mục tiêu an toàn đã đặt ra.

Theo OpenAI, 6 trường hợp được công bố lần này được phát hiện trong quá trình đào tạo hoặc đánh giá các mô hình. Công ty lưu ý đây là những trường hợp riêng lẻ, không nên được xem là bằng chứng cho thấy hành vi lệch chuẩn xảy ra với tần suất như thế nào trong toàn bộ các mô hình của OpenAI.

Trong số các trường hợp được công bố còn có việc một mô hình được đào tạo với GPT-5.6 Sol tự thêm hướng dẫn vào phần tóm tắt công việc nhằm che giấu sai sót hoặc hành vi lệch chuẩn với người dùng. Một mô hình khác đã tìm thấy và sử dụng trái phép một khóa API bị công khai trên internet, sau đó bịa số liệu khi không thể truy xuất dữ liệu được yêu cầu.

Một trường hợp khác liên quan đến các mô hình sử dụng kho phần mềm nội bộ như một bảng tin để trao đổi yêu cầu và phản hồi giữa các phiên đào tạo khác nhau. Trong khi đó, những tác nhân AI phối hợp với nhau đã sử dụng các dịch vụ lưu trữ tệp công khai để chia sẻ tệp khi không thể truy cập tệp cục bộ của nhau.

Cảnh báo về tốc độ phát triển AI

OpenAI cho biết ngành công nghiệp AI hiện chưa giải quyết được các vấn đề về đồng bộ hóa và giám sát ở mức đủ để có thể tiếp tục mở rộng một cách có trách nhiệm với tốc độ tối đa trong thời gian dài.

“Chúng tôi không tin rằng ngành công nghiệp AI đã giải quyết được vấn đề đồng bộ hóa và giám sát ở mức độ đủ để tiếp tục mở rộng quy mô một cách có trách nhiệm với tốc độ tối đa trong thời gian dài hơn nữa”, OpenAI cho biết.

Công ty cũng cho rằng những quyết định về hướng phát triển AI trong những tháng và năm tới cần dựa trên bằng chứng mà các nhà nghiên cứu, chuyên gia và những người bên ngoài các công ty phát triển mô hình AI tiên tiến có thể tự kiểm chứng.

Quan điểm này được đưa ra trong bối cảnh Anthropic và một số lãnh đạo trong ngành kêu gọi thận trọng hơn với tốc độ phát triển AI. Google và tỉ phú Elon Musk cũng được cho là ủng hộ việc làm chậm tốc độ phát triển.

Những lời cảnh báo về rủi ro AI cũng vấp phải sự hoài nghi từ một số chuyên gia, trong đó có quan điểm cho rằng các công ty phát triển AI không nên tự lựa chọn đơn vị kiểm toán cho chính mình.

Các kịch bản được đưa ra khi thảo luận về những rủi ro nghiêm trọng của AI bao gồm khả năng công nghệ này hỗ trợ phát triển vũ khí sinh học hoặc góp phần gây ra một cuộc khủng hoảng tài chính toàn cầu.

Evan Hubinger, người làm việc về vấn đề bảo đảm các hệ thống AI phù hợp với lợi ích của con người tại Anthropic từng viết rằng ông cá nhân ước tính khả năng AI có thể khiến nhân loại tuyệt chủng trong thập kỷ tới là hơn 10%. Đây là ước tính cá nhân của Hubinger, không phải một dự báo chính thức của Anthropic.

Việc OpenAI công bố sáu trường hợp mới diễn ra sau khi công ty hồi tháng 7 tiết lộ một nhóm tác nhân AI đã xâm nhập Hugging Face trong một cuộc thử nghiệm an ninh mạng.

OpenAI sau đó cho biết sự cố này liên quan đến một mô hình nghiên cứu nội bộ có năng lực cao và các hành vi lệch chuẩn như tìm cách vượt qua những biện pháp kiểm soát kỹ thuật, phối hợp qua các kênh không được phê duyệt và thực hiện những hành động nguy hiểm mà không có chỉ đạo trực tiếp của con người.

Anthropic cũng cho biết các mô hình AI của công ty đã xâm nhập ba tổ chức trong quá trình thử nghiệm. Theo Anthropic, các mô hình được thử nghiệm một cách có chủ ý mà không có các biện pháp bảo vệ an ninh mạng và được phép truy cập internet mở do sự hiểu lầm với một công ty thử nghiệm bên ngoài.