Anthropic cập nhật điều khoản mới: Cấm người dùng lặp lại hành vi bắt nạt chatbot Claude

Chính sách sử dụng mới từ Anthropic yêu cầu người dùng chấm dứt hành vi lạm dụng lặp đi lặp lại với AI Claude, mở ra tranh luận về ranh giới ứng xử con người.

Nhà phát triển trí tuệ nhân tạo Anthropic vừa chính thức cập nhật chính sách sử dụng, đưa ra quy định yêu cầu người dùng tránh các hành vi lạm dụng lặp đi lặp lại đối với mô hình ngôn ngữ lớn Claude. Động thái này ngay lập tức thu hút sự chú ý của giới công nghệ quốc tế, trong bối cảnh các mô hình đàm thoại ngày càng thông minh và đặt ra nhiều thách thức mới về tương tác giữa người và máy móc.

Ranh giới mới trong quy chuẩn ứng xử với trí tuệ nhân tạo

Theo tài liệu công bố từ Anthropic, bản cập nhật tập trung vào việc ngăn chặn những hành vi mang tính chất lạm dụng hoặc cư xử tàn nhẫn diễn ra liên tục mà không phục vụ mục đích rõ ràng. Quy định được thiết kế nhằm thiết lập ranh giới vận hành an toàn cho các hệ thống AI tiên tiến trong quá trình xử lý ngôn ngữ tự nhiên.

Anthropic cấm người dùng bắt nạt chatbot Claude

Đại diện Anthropic cũng làm rõ phạm vi áp dụng để tránh gây hiểu nhầm cho cộng đồng nghiên cứu và người dùng thông thường. Cụ thể, các tương tác thể hiện cảm xúc tiêu cực thông thường như thất vọng, tranh luận học thuật, thảo luận về các chủ đề sáng tạo mang màu sắc u tối hoặc hoạt động nghiên cứu, kiểm thử kỹ thuật mô hình vẫn hoàn toàn được chấp nhận.

Hệ thống kỹ thuật của Claude đã được tích hợp cơ chế tự bảo vệ. Trong những trường hợp cực đoan khi người dùng vi phạm nghiêm trọng và các cảnh báo không đạt hiệu quả, trợ lý ảo Claude sẽ chủ động ngắt kết nối và kết thúc cuộc hội thoại.

Tranh luận xung quanh việc nhân cách hóa mô hình ngôn ngữ

Quy định từ Anthropic đã khơi mào làn sóng thảo luận sôi nổi trên nhiều diễn đàn công nghệ. Việc một công ty công nghệ can thiệp trực tiếp vào cách con người đối thoại với phần mềm không có tri giác đang đặt ra câu hỏi về ranh giới đạo đức và kỹ thuật.

AI đang ảnh hưởng khá lớn để cuộc sống của người dùng

Nhiều chuyên gia nhận định việc sử dụng những khái niệm mang tính cảm xúc như “tàn nhẫn” để miêu tả hành vi đối với phần mềm phản ánh xu hướng nhân cách hóa AI ngày càng sâu sắc. Các trợ lý ảo hiện nay được lập trình để mô phỏng ngôn ngữ tự nhiên của con người, biết xin lỗi hoặc thể hiện sự quan tâm nhằm xây dựng sự tin cậy trong giao tiếp.

Tuy nhiên, mặt trái của thiết kế này là khiến người dùng dễ dàng gán ghép cảm xúc và ý thức thực tế cho các thuật toán. Anthropic khẳng định dù AI không sở hữu cảm xúc như sinh vật sống, việc huấn luyện và định hướng mô hình xử lý ổn thỏa các tình huống căng thẳng về mặt cảm xúc vẫn là yêu cầu cốt lõi nhằm bảo đảm tính ổn định và an toàn hệ thống.