Nóng: Cảnh báo công cụ Deepfake sẽ xoá hết quần áo chỉ trong vòng vài nốt nhạc, chị em hay post ảnh khoe thân nên thận trọng!

Con bot Deepfake đang gây xôn xao trên các nhóm kín của ứng dụng Telegram với tính năng “lột quần áo” phụ nữ chỉ trong vài click chuột.

Chúng ta chắc hẳn đều quen thuộc với phần mềm chỉnh ảnh Photoshop phổ biến. Cách đây chục năm, phần mềm này từng gây “sốc” cho biết bao người, khi họ nhìn thấy những bức ảnh khỏa thân “giả” của mình nổi chìm trên mạng. Tình trạng đó lại tái diễn vào những ngày gần đây.

Những bức ảnh khỏa thân “giả” tràn lan trên mạng

Rất nhiều bức ảnh khỏa thân của các cô gái bị đăng lên mạng xã hội, điểm đáng chú ý rằng chúng đều được làm giả bởi bot Deepfake trên ứng dụng nhắn tin Telegram. Cụ thể, công ty bảo mật Sensity đã phát hiện ra một mạng lưới những con bot Deepfake chuyên dùng để tạo ra ảnh khỏa thân của phụ nữ trên Telegram – người dùng tải ảnh phụ nữ có mặc đồ cho bot, sau đó bot trả lại ảnh của người phụ nữ đó trong tình trạng khỏa thân.

Ảnh minh họa cho con bot trong 1 nhóm chat trên Telegram

Theo The Verge , người dùng có thể gõ tìm thấy tên của con bot này trên thanh công cụ Search trên Telegram. Ngoài ra, báo cáo của Sensity (Hà Lan) cũng giải thích thực trạng này này được tạo bằng AI, chúng có thể loại bỏ hầu hết quần áo của nhân vật.

Con bot này có gì đáng sợ?

Sensity nói điều khiến bot này trở nên đáng sợ là dễ sử dụng vì nó chỉ yêu cầu người dùng tải lên hình ảnh của một phụ nữ, nhấp vào vài nút. Sau đó, nó sử dụng AI để xác định thứ gì sẽ nằm dưới lớp quần áo và cho ra ảnh khỏa thân. Giorgio Patrini, Giám đốc điều hành Sensity và đồng tác giả của báo cáo nói với CNET: “So với các công cụ ngầm tương tự, bot tăng đáng kể khả năng truy cập bằng cách cung cấp cho người dùng miễn phí và đơn giản, hoạt động trên điện thoại thông minh cũng như máy tính truyền thống. Để “tách” một hình ảnh, người dùng chỉ cần tải ảnh của mục tiêu lên bot và nhận hình ảnh đã xử lý sau một quá trình tạo ngắn”.

Quy trình để tạo nên 1 bức ảnh khỏa thân giả

Giorgio Patrini nói rằng hành vi lấy ảnh cá nhân và biến thành khỏa thân là tương đối mới, khiến bất kỳ ai có tài khoản mạng xã hội đều gặp rủi ro. Quản trị viên bot (được gọi là P) nói với BBC rằng dịch vụ này hoàn toàn để giải trí và nó “không mang tính xâm hại”. Chẳng thể chắc điều quản trị viên nói là sự thật, bởi vì mạng lưới bot, nơi các hình ảnh khỏa thân giả được tạo và chia sẻ, có hơn 100.000 thành viên, chủ yếu ở Nga hoặc Đông Âu. Rất khó để có thể kiểm soát được hành vi của mỗi thành viên trong nhóm.

Khi chúng tôi thử kích hoạt con bot, nó giới thiệu khả năng xoá quần áo của mọi cô gái chỉ bằng bức ảnh và người xem sẽ có hình thể của cô ấy (hoàn toàn không bị làm mờ).

Con bot Deepfake giới thiệu khả năng “lột đồ”

Phương thức “lột đồ” đơn giản đến mức, chỉ cần bức ảnh bất kỳ, nhưng để chính xác cho AI nhất thì con bot khuyên là nên sử dụng hình ảnh áo tắm hoặc trang phục càng “thiếu vải” càng tốt. Dĩ nhiên, con bot này cũng là công cụ kiếm tiền cho những đối tượng phát hành. Bức ảnh đầu tiên sẽ là miễn phí, nhưng đến những bức về sau, con bot sẽ yêu cầu người dùng nạp tiền để sử dụng. Giá của 1 bức ảnh sẽ là 100 RUB (khoảng 30 nghìn đồng), 1 tuần sử dụng có giá là 800 RUB (khoảng 250 nghìn đồng), còn để sử dụng trọn đời thì 1.500 RUB (gần 500 nghìn đồng).

Bức ảnh ghi nhận từ đoạn chat trong Telegram

Đã có hơn 100.000 hình ảnh khỏa thân giả mạo của hơn 10.000 phụ nữ được tạo bằng con bot này và chia sẻ trực tuyến từ tháng 7/2019 đến năm 2020. Họ cho biết phần lớn nạn nhân đều bị lấy ảnh cá nhân trên tài khoản mạng xã hội, trong đó có một số cô gái tuổi vị thành niên.

Theo cuộc khảo sát về Deepfake cho thấy, hơn 63% người dùng muốn “lột đồ” các bạn gái, phụ nữ xung quanh cuộc sống của họ, 16% muốn nhìn thấy những minh tinh, celeb, ca sĩ họ yêu thích trong trạng thái “trần như nhộng”, số còn lại thuộc diện các trường hợp khác. Với tính chất nguy hiểm như vậy, các bạn nữ luôn là đối tượng tiềm năng của những kẻ biến thái trên mạng, kể cả đó không phải là người thân quen.

Khảo sát về mục đích sử dụng Deepfake “lột đồ”

Chính vì vậy, trừ khi bạn là người có tầm ảnh hưởng (influencer), kinh doanh, nghệ sĩ… cần gây chú ý, tốt nhất không nên kết bạn cũng như đồng ý kết bạn với người mà mình không quen biết. Việc chấp nhận thành bạn bè với người không quen có thể khiến bạn gặp phải những tình huống oái oăm không đáng có, qua đó nên hạn chế đăng ảnh khêu gợi, “thiếu vải”, phòng trường hợp kẻ xấu lợi dụng tấm ảnh đó để sử dụng Deepfake, sau đó phát tán trên mạng nhằm bôi xấu nhân phẩm và danh dự của bạn.