Google phát triển AI chống lạm dụng tình dục trẻ em

Công cụ AI chống lạm dụng tình dục trẻ em sẽ được trao miễn phí cho các tổ chức phi chính phủ (NGO).

Google vừa công báo về công cụ mới sử dụng trí tuệ nhân tạo (AI) được hãng phát triển nhằm giúp các tổ chức ngăn chặn hoạt động lạm dụng tình dục trẻ em ( CSAM) trực tuyến.

Theo Neowin, AI này sử dụng mạng nơron để xử lý hình ảnh và hỗ trợ người kiểm duyệt sắp xếp thông tin qua hình ảnh nhằm tìm ra các nội dung tiềm ẩn khả năng lạm dụng tình dục trẻ em, sau đó gỡ bỏ nếu bị xác định phạm pháp.

Google cho biết hãng sẽ cung cấp công cụ AI này miễn phí cho các tổ chức phi chính phủ (NGO) cũng như các đối tác công nghiệp thông qua giao diện lập trình nội dung an toàn ( Content Safety API).

CEO của Tổ chức Theo dõi Internet (IWF) – Susie Hargreaves cho biết tổ chức của mình và các chuyên gia phân tích đều rất hào hứng với sự phát triển của công cụ AI mới có khả năng hỗ trợ chuyên môn cho con người trong việc đánh giá, xem xét các nội dung trước đây chưa từng bị xem là phạm pháp.

“Thông qua việc chia sẻ công nghệ mới này, việc xác minh hình ảnh sẽ nhanh chóng hơn, từ đó biến internet trở nên an toàn hơn cho cả người giám sát lẫn người dùng”, bà Susie nhận định.

Theo đại diện Google, quá trình xác định CSAM trực tuyến sẽ tăng tốc rõ rệt nhờ công cụ mới. Hãng cho hay AI giúp các giám định viên tìm và đưa ra quyết định liên quan tới CSAM hiệu quả hơn 700%. Nói cách khác, thời gian vốn được dùng để xử lý một nội dung thì nay sẽ là 7.

Theo Neowin