Apple và Google bị yêu cầu xóa ứng dụng AI ‘lột đồ’ khỏi kho ứng dụng

Chỉ cần một bức ảnh bình thường, AI có thể tạo ra hình ảnh khỏa thân giả chỉ trong vài giây.

Trước nguy cơ công nghệ bị lợi dụng để quấy rối, tống tiền và xâm hại trẻ em, Apple và Google vừa bị yêu cầu gỡ bỏ hàng loạt ứng dụng ‘nudify’ khỏi App Store và Google Play, nếu không có thể đối mặt với hành động pháp lý.

Làn sóng phát triển của AI tạo sinh đang kéo theo nhiều ứng dụng có khả năng chỉnh sửa ảnh với tốc độ và độ chân thực ngày càng cao. Trong số đó, các ứng dụng “nudify” – sử dụng AI để tạo ra hình ảnh khỏa thân giả từ ảnh người mặc quần áo – đang trở thành tâm điểm chỉ trích vì nguy cơ xâm phạm quyền riêng tư và bị sử dụng vào các mục đích quấy rối, trả thù hoặc tống tiền.

Theo TechCrunch, Công tố viên thành phố San Francisco David Chiu đã gửi thư yêu cầu Apple và Google chấm dứt việc phân phối các ứng dụng này trên kho ứng dụng của mình.

Thành phố San Francisco yêu cầu Apple và Google xóa các ứng dụng “làm khỏa thân” bằng trí tuệ nhân tạo khỏi cửa hàng ứng dụng. Ảnh minh họa: Getty Images

Lo ngại AI bị lạm dụng để tạo ảnh nhạy cảm giả

Trong thư gửi hai “ông lớn” công nghệ, Công tố viên thành phố San Francisco David Chiu cho rằng nhiều ứng dụng đang quảng bá dưới dạng công cụ chỉnh sửa ảnh hoặc hoán đổi khuôn mặt, nhưng thực chất cho phép người dùng tạo ra hình ảnh khỏa thân giả của người khác mà không có sự đồng ý.

Theo văn phòng Công tố viên, chỉ với một bức ảnh thông thường được đăng trên mạng xã hội, AI có thể tạo ra hình ảnh mang tính khiêu dâm trong vài giây. Công nghệ này đang bị lợi dụng để quấy rối phụ nữ, bắt nạt học sinh, phát tán nội dung giả mạo hoặc tống tiền nạn nhân.

Đáng lo ngại hơn, một số trường hợp còn liên quan đến trẻ vị thành niên, khiến các cơ quan thực thi pháp luật ngày càng siết chặt việc quản lý những ứng dụng dạng này.

Một cuộc điều tra của Tech Transparency Project (TTP) cho thấy Apple và Google không chỉ cho phép các ứng dụng AI tạo ảnh khỏa thân giả tồn tại trên App Store và Google Play mà còn giúp người dùng dễ dàng tìm thấy chúng thông qua hệ thống tìm kiếm, quảng cáo và gợi ý từ khóa.

Theo TTP, khi tìm kiếm các từ khóa như “nudify”, “undress” hay “deepnude”, khoảng 40% ứng dụng xuất hiện trong kết quả có khả năng tạo hình ảnh khỏa thân hoặc hình ảnh gợi dục giả từ ảnh của phụ nữ. Hai kho ứng dụng cũng hiển thị quảng cáo cho một số ứng dụng này, trong khi tính năng tự động hoàn thành từ khóa còn đề xuất thêm các truy vấn liên quan, dẫn người dùng đến nhiều ứng dụng tương tự.

Cuộc điều tra nhấn mạnh rằng Apple và Google không chỉ đóng vai trò là nền tảng phân phối mà còn góp phần làm tăng khả năng tiếp cận của các công cụ AI có thể bị lạm dụng để tạo nội dung nhạy cảm giả mạo.

Theo dữ liệu từ AppMagic được TTP trích dẫn, các ứng dụng “nudify” xuất hiện trong kết quả tìm kiếm đã đạt 483 triệu lượt tải xuống và tạo ra hơn 122 triệu USD doanh thu trọn đời, cho thấy quy mô đáng kể của thị trường này.

Apple và Google bị cho là vẫn hưởng lợi từ các ứng dụng

Theo TechCrunch, thư yêu cầu nêu đích danh 13 ứng dụng bị cho là vi phạm, đồng thời cho rằng Apple và Google đã nhiều lần được cảnh báo về sự tồn tại của chúng nhưng vẫn tiếp tục cho phép xuất hiện trên App Store và Google Play.

Ngoài việc cung cấp nền tảng phân phối, hai công ty cũng bị cho là thu lợi từ các giao dịch mua trong ứng dụng và các gói thuê bao trả phí mà người dùng sử dụng để tạo ảnh bằng AI.

Ông David Chiu nhận định việc tiếp tục lưu hành các ứng dụng này đồng nghĩa với việc các nền tảng đang góp phần tạo điều kiện cho hành vi phát tán hình ảnh nhạy cảm giả mạo.

Trong thư, Công tố viên San Francisco yêu cầu Apple và Google nhanh chóng gỡ bỏ các ứng dụng “nudify” và có biện pháp ngăn chặn những ứng dụng tương tự xuất hiện trở lại.

Nếu không thực hiện, hai công ty có thể phải đối mặt với các biện pháp pháp lý theo luật của bang California liên quan đến hành vi tạo và phát tán hình ảnh thân mật giả mạo không có sự đồng thuận.

Động thái này phản ánh xu hướng ngày càng mạnh mẽ của các cơ quan quản lý trong việc yêu cầu các nền tảng công nghệ chịu trách nhiệm nhiều hơn đối với những ứng dụng AI có nguy cơ gây hại cho xã hội.

Một số ứng dụng nudify có mặt trên App Store nằm trong báo cáo điều tra của điều tra của Tech Transparency Project (TTP).

Siết chặt giám sát AI tạo sinh trước làn sóng nội dung giả mạo

Công nghệ trí tuệ nhân tạo (AI) tạo sinh đang bước vào giai đoạn bị giám sát nghiêm ngặt hơn khi nhiều quốc gia nỗ lực tăng cường quản lý các công cụ số, đặc biệt là những ứng dụng có khả năng tạo ra nội dung giả mạo (deepfake) với độ chân thực cao.

Theo các chuyên gia, thách thức không nằm ở bản thân công nghệ AI, mà ở sự thiếu hụt các cơ chế kiểm duyệt đối với các ứng dụng thương mại hóa. Nếu không có rào cản kiểm soát hiệu quả, deepfake có nguy cơ biến thành công cụ phục vụ các hành vi quấy rối, lừa đảo và xâm phạm nghiêm trọng quyền riêng tư.

Thực tế này đang đặt áp lực lớn lên Apple và Google. Hai “ông lớn” công nghệ này không chỉ phải gỡ bỏ các ứng dụng vi phạm cụ thể mà còn có trách nhiệm xây dựng những cơ chế rà soát chủ động và hiệu quả hơn, nhằm ngăn chặn các ứng dụng AI có chức năng tương tự xuất hiện trên các kho ứng dụng trong tương lai.

*Chú thích: Trong ngữ cảnh bài viết, “nudify” là thuật ngữ chỉ các ứng dụng AI có khả năng tạo hình ảnh khỏa thân giả từ ảnh của người mặc quần áo, không phản ánh hình ảnh thật của người trong ảnh.