Facebook có thể phát hiện nguồn gốc deepfake

Các nhà nghiên cứu AI của Facebook và Đại học bang Michigan (Mỹ) vừa phát triển phần mềm mới, cho phép truy xuất nguồn gốc deepfake.

Một ví dụ về deepfake do CNBC tạo ra.

Deepfake là các video được chỉnh sửa bằng trí tuệ nhân tạo (AI). Chúng ngày càng trở nên hoàn thiện hơn trong vài năm gần đây, khiến người xem khó xác định được đây là video thật hay giả.

Dù vậy, các nhà nghiên cứu Facebook khẳng định phần mềm AI mới của họ có thể được đào tạo để biết được một video là deepfake hay không chỉ từ hình ảnh hay khung hình cắt ra từ video. Không chỉ có vậy, nó còn xác định được loại AI dùng để tạo ra deepfake, dù kỹ thuật này khó tới đâu.

Năm ngoái, Đại học bang Michigan (MSU) phát hiện họ có thể xác định được loại camera được sử dụng để chụp tấm ảnh nào đó. Tal Hassner, người đứng đầu về nghiên cứu ứng dụng tại Facebook, chia sẻ đã hợp tác với MSU cho phần mềm mới.

“Mèo vờn chuột”

Deepfake không phải điều tốt lành gì với Facebook khi mạng xã hội này liên tục tìm cách xóa bỏ nội dung giả mạo ra khỏi nền tảng. Công ty cấm deepfake vào tháng 1/2020 nhưng không thể loại bỏ hoàn toàn.

Theo ông Hassner, phát hiện deepfake giống như trò chơi mèo vờn chuột, khi deepfake ngày càng dễ sản xuất nhưng lại khó xác định. Một trong các ứng dụng chính của deepfake hiện nay là trong công nghiệp khiê.u dâ.m, nơi gương mặt một người bị ghép vào cơ thể người khác. Các ngôi sao cũng khốn khổ với deepfake vì họ thường xuất hiện trong những video giả mạo. Chẳng hạn, nhiều video của diễn viên Tom Cruise trên TikTok thu hút hơn 50 triệu lượt xem và khán giả không biết được họ đang xem video thật hay giả.

Bất kỳ ai cũng có thể tạo video deepfake thông qua các ứng dụng miễn phí như FakeApp, Faceswap. Chuyên gia deepfake Nina Schick khẳng định không dễ phát hiện deepfake. Bà cho rằng dù công trình của Facebook và MSU là bước tiến lớn, điều quan trọng là các mô hình phát hiện deepfake hoạt động thế nào trong thực tế. Một trong các thách thức lớn hiện tại là có nhiều cách đán.h lừa mô hình phát hiện deepfake. Ông Tassner cũng thừa nhận rất có thể thế lực xấu sẽ qua mặt được phần mềm.

Nhìn chung, deepfake có hai loại: một loại hoàn toàn do AI tạo ra, một loại sử dụng các nguyên tố của AI để “bóp méo” nội dung đa phương tiện gốc. Bà Schick đặt câu hỏi liệu công cụ của Facebook có áp dụng cho loại thứ hai được không, do không bao giờ có một mô hình nào áp dụng được cho mọi tình huống. Tuy nhiên, Xiaoming Liu của MSU cho biết phần mềm đã được đán.h giá và xác nhận trên cả hai trường hợp deepfake.

Chris Ume, nghệ sỹ đứng sau video deepfake Tom Cruise, chia sẻ công nghệ deepfake đang phát triển nhanh chóng. Có nhiều công cụ AI khác nhau và anh sử dụng kết hợp để đạt chất lượng mong muốn cho kênh TikTok của mình.

Không rõ Facebook sẽ áp dụng phần mềm phát hiện deepfake trên nền tảng như thế nào. Ông Tassner cho hay, công ty chưa thảo luận về sản phẩm. Để phục vụ cho công trình nghiên cứu, Facebook đã thu thập và phân loại 100 mô hình deepfake khác nhau