Google Play cấm nhầm ứng dụng có định dạng tệp ‘nhạy cảm’

Trí tuệ nhân tạo (AI) của Google Play vừa vướng phải lỗi kiểm duyệt và cấm nhầm một ứng dụng xem video.

Cửa hàng ứng dụng Google Play luôn tự hào họ có cả kho tàng với hàng trăm nghìn ứng dụng, tất nhiên việc này cũng sẽ cần một đội ngũ lớn nhân lực để xét duyệt kỹ lưỡng nội dung của chúng. Và Google đã dựa vào các bot hỗ trợ AI để thu thập thông tin và phát hiện vi phạm chính sách. Mặc dù hiệu quả cao, nhưng các bot này đôi khi vẫn gây ra một vài sự hiểu lầm tai hại, một sự nhầm lẫn gần đây cho thấy hệ thống này có thể không thực sự hoạt động có lợi cho các nhà phát triển.

Sự cố liên quan đến ứng dụng Just (Video) Player và có thể sẽ rất hài hước nếu hệ lụy không thực sự nghiêm trọng như vậy. Ứng dụng đột ngột bị cấm khỏi Google Play do vi phạm chính sách “Nội dung khiêu dâm và tục tĩu”. Sau đó, hệ thống đã trích dẫn ghi chú vi phạm trong mô tả của ứng dụng với nội dung hỗ trợ các định dạng phụ đề như “SRT, SSA, ASS, TTML, VTT”.

Chúng ta sẽ dễ dàng tìm ra từ “ASS” (nghĩa thông dụng có liên quan đến tình dục) trong danh sách đó, đây có thể là thứ đã kích hoạt AI của bot kiểm duyệt để cấm ứng dụng. “ASS” là định dạng phụ đề Advanced SubStation Alpha. Mặc dù không phổ biến như dạng SRT thường thấy, nhưng định dạng này được sử dụng rộng rãi trong các bộ phim anime và trở thành một tiêu chuẩn thực tế ở thị trường đó.

Ứng dụng Just (Video) Player bị cấm nhầm do tên định dạng hỗ trợ

Google đã khôi phục ứng dụng sau khi nhận được kháng nghị, nhưng vấn đề này làm dấy lên căng thẳng khi nhà phát triển phải trải qua những bước vô lý để mang ứng dụng của mình trở lại Google Play sau khi bị AI xử lý nhầm. Ngoài việc cấm ứng dụng một cách bừa bãi vì những lý do đôi khi vô lý chưa từng nghĩ đến, hệ thống tự động cũng được báo cáo là mơ hồ hoặc không chính xác trong việc chỉ ra nguyên nhân thực sự của hành vi vi phạm.

Apple thường bị chỉ trích bởi quy trình kiểm duyệt gắt gao của họ trên App Store, nhưng những sự cố như thế này đôi khi cho thấy lợi ích của quá trình kiểm duyệt điều khiển thủ công bởi con người. Apple gần đây cũng mở cửa cho các nhà phát triển khiếu nại và thậm chí đặt câu hỏi về các chính sách, điều mà người ta cho rằng gần như không thể thực hiện được khi sử dụng hệ thống AI như Google.