Nóng: Cảnh báo công cụ Deepfake sẽ xoá hết quần áo chỉ trong vòng vài nốt nhạc, chị em hay post ảnh khoe thân nên thận trọng!
Con bot Deepfake đang gây xôn xao trên các nhóm kín của ứng dụng Telegram với tính năng “lột quần áo” phụ nữ chỉ trong vài click chuột.
Chúng ta chắc hẳn đều quen thuộc với phần mềm chỉnh ảnh Photoshop phổ biến. Cách đây chục năm, phần mềm này từng gây “sốc” cho biết bao người, khi họ nhìn thấy những bức ảnh khỏa thân “giả” của mình nổi chìm trên mạng. Tình trạng đó lại tái diễn vào những ngày gần đây.
Những bức ảnh khỏa thân “giả” tràn lan trên mạng
Rất nhiều bức ảnh khỏa thân của các cô gái bị đăng lên mạng xã hội, điểm đáng chú ý rằng chúng đều được làm giả bởi bot Deepfake trên ứng dụng nhắn tin Telegram. Cụ thể, công ty bảo mật Sensity đã phát hiện ra một mạng lưới những con bot Deepfake chuyên dùng để tạo ra ảnh khỏa thân của phụ nữ trên Telegram – người dùng tải ảnh phụ nữ có mặc đồ cho bot, sau đó bot trả lại ảnh của người phụ nữ đó trong tình trạng khỏa thân.
Ảnh minh họa cho con bot trong 1 nhóm chat trên Telegram
Theo The Verge , người dùng có thể gõ tìm thấy tên của con bot này trên thanh công cụ Search trên Telegram. Ngoài ra, báo cáo của Sensity (Hà Lan) cũng giải thích thực trạng này này được tạo bằng AI, chúng có thể loại bỏ hầu hết quần áo của nhân vật.
Con bot này có gì đáng sợ?
Sensity nói điều khiến bot này trở nên đáng sợ là dễ sử dụng vì nó chỉ yêu cầu người dùng tải lên hình ảnh của một phụ nữ, nhấp vào vài nút. Sau đó, nó sử dụng AI để xác định thứ gì sẽ nằm dưới lớp quần áo và cho ra ảnh khỏa thân. Giorgio Patrini, Giám đốc điều hành Sensity và đồng tác giả của báo cáo nói với CNET: “So với các công cụ ngầm tương tự, bot tăng đáng kể khả năng truy cập bằng cách cung cấp cho người dùng miễn phí và đơn giản, hoạt động trên điện thoại thông minh cũng như máy tính truyền thống. Để “tách” một hình ảnh, người dùng chỉ cần tải ảnh của mục tiêu lên bot và nhận hình ảnh đã xử lý sau một quá trình tạo ngắn”.
Video đang HOT
Quy trình để tạo nên 1 bức ảnh khỏa thân giả
Giorgio Patrini nói rằng hành vi lấy ảnh cá nhân và biến thành khỏa thân là tương đối mới, khiến bất kỳ ai có tài khoản mạng xã hội đều gặp rủi ro. Quản trị viên bot (được gọi là P) nói với BBC rằng dịch vụ này hoàn toàn để giải trí và nó “không mang tính xâm hại”. Chẳng thể chắc điều quản trị viên nói là sự thật, bởi vì mạng lưới bot, nơi các hình ảnh khỏa thân giả được tạo và chia sẻ, có hơn 100.000 thành viên, chủ yếu ở Nga hoặc Đông Âu. Rất khó để có thể kiểm soát được hành vi của mỗi thành viên trong nhóm.
Khi chúng tôi thử kích hoạt con bot, nó giới thiệu khả năng xoá quần áo của mọi cô gái chỉ bằng bức ảnh và người xem sẽ có hình thể của cô ấy (hoàn toàn không bị làm mờ).
Con bot Deepfake giới thiệu khả năng “lột đồ”
Phương thức “lột đồ” đơn giản đến mức, chỉ cần bức ảnh bất kỳ, nhưng để chính xác cho AI nhất thì con bot khuyên là nên sử dụng hình ảnh áo tắm hoặc trang phục càng “thiếu vải” càng tốt. Dĩ nhiên, con bot này cũng là công cụ kiếm tiền cho những đối tượng phát hành. Bức ảnh đầu tiên sẽ là miễn phí, nhưng đến những bức về sau, con bot sẽ yêu cầu người dùng nạp tiền để sử dụng. Giá của 1 bức ảnh sẽ là 100 RUB (khoảng 30 nghìn đồng), 1 tuần sử dụng có giá là 800 RUB (khoảng 250 nghìn đồng), còn để sử dụng trọn đời thì 1.500 RUB (gần 500 nghìn đồng).
Bức ảnh ghi nhận từ đoạn chat trong Telegram
Đã có hơn 100.000 hình ảnh khỏa thân giả mạo của hơn 10.000 phụ nữ được tạo bằng con bot này và chia sẻ trực tuyến từ tháng 7/2019 đến năm 2020. Họ cho biết phần lớn nạn nhân đều bị lấy ảnh cá nhân trên tài khoản mạng xã hội, trong đó có một số cô gái tuổi vị thành niên.
Theo cuộc khảo sát về Deepfake cho thấy, hơn 63% người dùng muốn “lột đồ” các bạn gái, phụ nữ xung quanh cuộc sống của họ, 16% muốn nhìn thấy những minh tinh, celeb, ca sĩ họ yêu thích trong trạng thái “trần như nhộng”, số còn lại thuộc diện các trường hợp khác. Với tính chất nguy hiểm như vậy, các bạn nữ luôn là đối tượng tiềm năng của những kẻ biến thái trên mạng, kể cả đó không phải là người thân quen.
Khảo sát về mục đích sử dụng Deepfake “lột đồ”
Chính vì vậy, trừ khi bạn là người có tầm ảnh hưởng (influencer), kinh doanh, nghệ sĩ… cần gây chú ý, tốt nhất không nên kết bạn cũng như đồng ý kết bạn với người mà mình không quen biết. Việc chấp nhận thành bạn bè với người không quen có thể khiến bạn gặp phải những tình huống oái oăm không đáng có, qua đó nên hạn chế đăng ảnh khêu gợi, “thiếu vải”, phòng trường hợp kẻ xấu lợi dụng tấm ảnh đó để sử dụng Deepfake, sau đó phát tán trên mạng nhằm bôi xấu nhân phẩm và danh dự của bạn.
Nỗi sợ deepfake nguy hiểm hơn chính deepfake
Các hãng tin đang lo ngại trước mối nguy hiểm của deepfake và bỏ qua lợi ích mà công nghệ này mang lại.
Tiến sĩ Aya Yadlin-Segal, giảng viên cao cấp tại tại Trường Cao đẳng Học thuật Hadassah (Israel), chia sẻ quan điểm của ông về deepfake:
"Nội dung được tạo từ AI - trong đó có các văn bản, âm thanh và đặc biệt là video deepfake - hình thành nên cái được giới truyền thông gọi là "mặt trận mới" trong cuộc chiến chống lại tin giả. Ở đó, các lực lượng trực tuyến được thành lập với mục đích lan truyền thông tin sai lệch, sản xuất hình ảnh nhạy cảm , hoặc chống phá các hệ thống chính trị. Phát hiện nội dung giả mạo ngày càng khó, nếu không muốn nói là không thể, đối với người chưa có kinh nghiệm.
Nhìn chung, đa số các bài báo về chủ đề này đều nói deepfake, cùng với các công nghệ AI khác, đã tồn tại và sẽ phủ bóng đen của khủng bố công nghệ lên xã hội.
Một phần trong những bài báo ấy cho rằng loài người sẽ lạc hậu và thua trong các trận chiến với máy móc. Viễn cảnh như trong phim Black Mirror sẽ chẳng là gì so với sự hủy diệt thật sự của công nghệ. Nghiên cứu của tôi cùng một đồng nghiệp tại Đại học Haifa (Israel) chỉ ra phần lớn khía cạnh báo chí đề cập đến deepfake đều là tiêu cực. Họ nhấn mạnh sự hủy diệt, thiệt hại và khủng hoảng ảnh hưởng tới nhân loại do deepfake.
Tuy nhiên, cần nhìn nhận vấn đề một cách cụ thể. Trước hết, deepfake đặt ra câu hỏi về cách chúng ta tiếp nhận tính xác thực. Tài liệu thực tế, báo cáo các sự kiện và thậm chí cả phương tiện phản ánh sự thật cũng bị đặt nghi vấn. Thông thường, rất khó xác định một đoạn ghi âm hay video vừa xem là thật hay giả và liệu chúng có phải là sản phẩm của AI hay không.
Các giác quan - nguồn cung cấp kiến thức cho con người bao đời nay - trở nên lạc hậu theo một nghĩa nào đó. Ngay cả với kiến thức hiện có cũng không khiến con người hoàn toàn tự tin để phân biệt nội dung nào do AI tạo ra. Bên cạnh đó, nhiều kẻ lạm dụng công nghệ AI vào mục đích xấu, cố tình chỉnh sửa văn bản và hình ảnh nhằm tạo xung đột chính trị hoặc phát tán nội dung nhạy cảm.
David Beckham có thể nói nhiều ngôn ngữ khác nhau nhờ deepfake giọng nói.
Bên cạnh những mối nguy kể trên, mặt tích cực của deepfake lại bị báo chí toàn cầu bỏ qua. Thay vào đó, họ chọn nhấn mạnh các khía cạnh giật gân, đáng sợ của deepfake.
Thực tế, deepfake hoạt động dựa trên những công nghệ vốn đem lại nhiều mặt tích cực và hiệu quả cho con người. Ví dụ, trong lĩnh vực chăm sóc sức khỏe, các nhà nghiên cứu đã tạo ra hình ảnh chụp cộng hưởng từ (MRI) não để huấn luyện thuật toán chẩn đoán bệnh. Ngoài ra, trong lĩnh vực ung thư và bệnh Alzheimer, các nhà nghiên cứu đã phát triển hệ thống chẩn đoán dựa trên dữ liệu bệnh nhân giả. Điều này giúp giảm các xét nghiệm xâm lấn, đồng thời bảo vệ quyền riêng tư về hồ sơ y tế của bệnh nhân.
Tương tự, công nghệ deepfake giọng nói hỗ trợ tạo và lan truyền các thông điệp xã hội quan trọng. Ví dụ, David Beckham tình nguyện tham gia chương trình giúp nâng cao nhận thức về bệnh sốt rét. Trong video tuyên truyền, siêu sao bóng đá truyền tải thông điệp bằng nhiều ngôn ngữ nhờ sự trợ giúp của deepfake, bởi Beckham chỉ thực sự nói một ngôn ngữ. Các ngôn ngữ còn lại được tổ chức Malaria must die sản xuất và ghép vào video gốc, dưới sự hỗ trợ của hãng truyền thông Synthesia.
Vậy tại sao hầu hết các phương tiện truyền thông vẫn nhắm vào mặt tiêu cực, nguy hiểm của deepfake? Vấn đề này không hề mới. Trong lịch sử, nhiều công nghệ mới khi được giới thiệu đều nhận phải ý kiến trái chiều và sự e ngại. Chẳng hạn, máy in khi ra đời đã được coi là mối nguy hiểm và các nhà thờ lo ngại sẽ mất đi các tín đồ sùng đạo. Tương tự, TV cũng bị cho là gây mất đoàn kết xã hội và phá hoại lối sống gia đình truyền thống. Với deepfake, nó mang tiếng bóp méo sự thật, khiến mọi thứ trở nên không đáng tin cậy và làm suy đồi đạo đức nhân văn.
Phải thừa nhận deepfake đang bị lạm dụng, nhưng cần có cái nhìn đầy đủ, đa chiều đối với vấn đề phức tạp. Deepfake quả thực đáng sợ. Nó khiến con người hoài nghi và tự vấn về tính xác thực của thông tin. Công nghệ AI vẫn chưa được phát triển toàn diện để nhận biết deepfake. Dẫu vậy, cần nhớ chính con người tạo ra deepfake, đóng góp nội dung vào đó, hoặc tiếp nhận tin giả và lan truyền trên các trang mạng xã hội mà không hề suy nghĩ.
Deepfake nhắc nhở chúng ta cần tỉnh táo và chín chắn hơn trong việc chắt lọc, tiếp nhận thông tin".
Song Hye Kyo tràn ngập ảnh, video nhạy cảm trên mạng xã hội, thủ phạm lại là Deepfake Chúng ta lại vừa ăn một cú lừa và thủ phạm không ai khác, vẫn chính là Deepfake. Gần đây, cộng đồng mạng thế giới lại được phen thót tim khi rất nhiều hình ảnh "nhạy cảm" liên quan đến nữ minh tinh Song Hye Kyo được chia sẻ tràn lan trên các web đen. Tuy vậy, chúng chỉ là những hình ảnh...