Các ứng dụng deepfake AI – Mối lo ngại lớn của các thần tượng K-pop

Một làn sóng quảng cáo gần đây sử dụng video deepfake do trí tuệ nhân tạo (AI) tạo ra về các thần tượng K-pop đã gây ra phản ứng dữ dội trên mạng xã hội .

Theo bài viết được tờ Korea Times đăng tải, những video deepfake do trí tuệ nhân tạo (AI) tạo ra làm dấy lên mối lo ngại mới về việc sử dụng sai mục đích AI để tạo nội dung khiêu dâm nhắm vào những người nổi tiếng. Những quảng cáo cho các ứng dụng hỗ trợ AI này gần đây đã gây ra mối quan tâm rộng rãi trong các cộng đồng trực tuyến, nhiều người dùng chỉ trích việc phát tán nội dung không phù hợp trên các nền tảng video ngắn như TikTok và Instagram.

Các quảng cáo đang được đề cập quảng bá các công cụ AI tạo video hai người hôn nhau, thúc đẩy người dùng tải ảnh của riêng họ cùng với hình ảnh thần tượng K-pop yêu thích của họ để tạo ra một clip giả mạo. Ảnh chụp màn hình của những quảng cáo này được lưu hành trực tuyến, và những người hâm mộ K-pop cho rằng chúng rất đáng lo ngại và họ cảm thấy rất tệ với những quảng cáo cho các ứng dụng liên quan đến nội dung này – khi chúng xuất hiện ngày càng nhiều hơn.

Ảnh: Getty Images

Theo luật pháp Hàn Quốc, việc tạo, thao túng, phân phối hoặc đe dọa phân phối nội dung khiêu dâm không được đồng ý bằng các công cụ kỹ thuật số, chẳng hạn như AI, là một hành vi phạm tội. Bất chấp khuôn khổ pháp lý, tội phạm tình dục deepfake đã gia tăng trong những năm gần đây ở nước này, trở thành một trong những mối đe dọa cấp bách nhất đối với các thần tượng K-pop. Các tội phạm này thường xuất phát từ hành vi ám ảnh của người hâm mộ hoặc ý định xấu muốn gây hại cho những người của công chúng mà họ quan tâm đến.

Chỉ trong tháng trước, cảnh sát Hàn Quốc đã bắt giữ hàng chục nam giới ở độ tuổi thiếu niên, 20 và 30 tuổi, vì tạo hoặc chia sẻ các video có sự can thiệp về tình dục có sự tham gia của những người nổi tiếng và nhân vật nổi tiếng trên nền tàng Internet.

Theo chính quyền nước này, vào ngày 11 tháng 4, 23 người điều hành phòng chat Telegram đã bị bắt giữ với các cáo buộc bao gồm vi phạm Đạo luật bảo vệ trẻ vị thành niên và Đạo luật về các trường hợp đặc biệt liên quan đến tội phạm tình dục. 13 nghi phạm đã bị truy tố chính thức, trong khi 60 người dùng khác bị tình nghi tham gia vào phòng chat cũng bị bắt giữ.

Trước tình hình này, các công ty giải trí đã bắt đầu thực hiện các bước chủ động hơn để ứng phó với mối đe dọa ngày càng gia tăng với nghệ sĩ mà họ quản lý. Cùng ngày cảnh sát công bố vụ bắt giữ, công ty giải trí đa quốc gia HYBE đã xác nhận rằng một số nghi phạm đã nhắm mục tiêu vào các nghệ sĩ của mình. Công ty này cho biết bước đột phá này là kết quả của sự hợp tác với cơ quan thực thi pháp luật , bao gồm cả đường dây nóng trực tiếp với cảnh sát.

Theo HYBE, công ty đã ký biên bản ghi nhớ (MOU) với Cảnh sát Bắc Gyeonggi vào ngày 25 tháng 2 để giải quyết các tội phạm deepfake. Kể từ đó, công ty đã tích cực báo cáo nội dung bất hợp pháp cho chính quyền và chia sẻ thông tin để hỗ trợ điều tra.

“Chúng tôi sẽ tiếp tục ứng phó với các tội phạm xâm phạm quyền hình ảnh và phẩm giá các nghệ sĩ của chúng tôi bằng thái độ không khoan nhượng” – CEO của HYBE Lee Jae-sang cho biết trong một tuyên bố.

Vài ngày sau đó, Cube Entertainment, công ty chủ quản của nhóm nhạc nữ i-dle, cũng tuyên bố hành động pháp lý để đáp trả các video bị chỉnh sửa và hành vi lạm dụng trực tuyến nhắm vào các thành viên của mình. Vào ngày 18 tháng 4, công ty đã đưa ra tuyên bố giải quyết nội dung khiêu dâm và các cuộc tấn công trực tuyến vào nhóm.

“Chúng tôi hiện đang thu thập bằng chứng và chuẩn bị mọi hành động pháp lý dân sự và hình sự có thể thông qua đại diện pháp lý của mình” – công ty cho biết.

Công ty này cũng nói thêm rằng bất kỳ ai phân phối video bị chỉnh sửa hoặc đăng nội dung phỉ báng sẽ phải đối mặt với hậu quả pháp lý đầy đủ, không có sự khoan hồng hoặc giải quyết cho những hành động này.

Luật pháp Hàn Quốc quy định rằng việc tạo hoặc phân phối nội dung deepfake bị chỉnh sửa về mặt tình dục có thể bị phạt tới bảy năm tù hoặc phạt tiền lên tới 50 triệu won (35.700 USD). Nếu thực hiện vì mục đích lợi nhuận, hình phạt sẽ tăng lên tối thiểu là ba năm tù. Việc sở hữu, mua, lưu trữ hoặc xem nội dung như vậy có thể bị phạt tới ba năm tù hoặc phạt tiền lên tới 30 triệu won.