Trí tuệ nhân tạo không thể bảo vệ người dùng công nghệ khỏi deepfake
Theo một báo cáo mới từ Data and Society, các giải pháp dựa trên trí tuệ nhân tạo có thể không cứu vãn được con người khỏi deepfake các video bị thay đổi một cách giả tạo và mang tính tiêu cực.
Trong báo cáo, các tác giả Britt Paris và Joan Donovan đã nghiên cứu deepfake dưới một cái nhìn sâu rộng – sự thao túng truyền thông liên tục và nói rằng điều này chỉ được giải quyết nếu có sự chung tay từ cả xã hội và kỹ thuật.
“Cơn hoảng loạn xung quanh các vấn đề liên quan đến deepfake chứng minh các giải pháp kỹ thuật nhanh chóng đã không định vị và giải quyết được các vấn đề cấu trúc”, Paris nói với The Verge.
“Đây là một dự án lớn, nhưng chúng tôi cần tìm giải pháp mang tính xã hội cũng như chính trị để những người không có quyền lực sẽ không bị bỏ lại trong cuộc tẩy chay này”.
Deepfake – video được xử lý bằng trí thông minh nhân tạo để đánh lừa người xem.
Video đang HOT
Quan hệ giữa truyền thông và sự thật chưa bao giờ ổn định, báo cá cho hay. Các tác giả trích dẫn hành động của những công ty truyền thông trong Gulf War rằng họ đã trình bày sai sự kiện trên mặt đất bằng cách chỉnh sửa hình ảnh từ các bản tin buổi tối.
Những hình ảnh là thật, song chúng đã bị thao túng sai lệch bằng cách bối cảnh hóa, diễn giải và phát sóng suốt ngày đêm trên truyền hình cáp.
Nỗi sợ hãi về các lỗ hổng truyền bá thông tin sai lệch đã tăng lên khi công nghệ dần trở nên tiến bộ. Một số lo lắng nó có thể “tàn phá” cuộc bầu cử diễn ra vào năm 2020 tới.
Hầu hết các phương tiện truyền thông có liên quan đến deepfake đã tập trung vào các nhân vật nổi tiếng và nhà lập pháp, như Chủ tịch Hạ viện Nancy Pelosi (D-Calif). Nhưng các tác giả viết rằng: Những người bị tổn hại cuối cùng bởi loại công nghệ này chính là công dân và xã hội.
Mặc dù các nhà nghiên cứu đang xem xét giải pháp công nghệ và gần đây Facebook đã phát hành một bộ dữ liệu thử nghiệm các mô hình mới nhằm phát hiện lỗ hổng sâu trong kĩ thuật, báo cáo Dữ liệu và Xã hội cảnh báo không nên chỉ tin tưởng vào các ông “trùm” công nghệ Big Tech.
Các giải pháp cần bao gồm nhiều hơn nữa, có thể là ban hành biện pháp liên bang đối với các tập đoàn, để khuyến khích họ giải quyết vấn đề này một cách có ý nghĩa hơn từ lợi nhuận khổng lồ của mình trong 15 năm qua, các tác giả đã viết trong kết luận của báo cáo.
Theo VietQ
Trào lưu Deepfake gây lo ngại về lạm dụng trí tuệ nhân tạo
Về lý thuyết, những biện pháp kiểm soát Internet nghiêm ngặt của Trung Quốc có thể ngăn mọi người truy cập các nội dung xấu.
Tuy nhiên, nhiều nền tảng đang được sử dụng để trao đổi, mua bán ảnh và video gợi cảm ghép khuôn mặt của các diễn viên nổi tiếng với giá chưa tới một USD.
'Tại một chủ đề thảo luận trên Baidu Tieba, một trong những diễn đàn Internet phổ biến nhất Trung Quốc, loại phim gợi cảm này được bán với giá chỉ 4 nhân dân tệ (khoảng 13 nghìn đồng) mỗi video. Trọn gói 700 video là 158 nhân dân tệ (hơn 500.000 đồng)', Beijing News đưa tin.
Trang này cũng cho biết video gợi cảm ghép khuôn mặt có thể được tùy chỉnh theo yêu cầu, được rao bán trên chợ thương mại điện tử cũ Xianyu với giá khởi điểm từ 20 nhân dân tệ cho mỗi phút. Người mua chỉ cần cung cấp ảnh người nổi tiếng hoặc cá nhân.
Việc hoán đổi khuôn mặt này là một phần của trào lưu Deepfake, thuật ngữ được dùng để chỉ những video giả mạo, bị chỉnh sửa, bóp méo khiến chúng trông như thật nhờ sự hỗ trợ của phần mềm trí tuệ nhân tạo, làm mờ đi ranh giới giữa sự thực và dối trá.
Một người bán dịch vụ có nickname Ah Chang tiết lộ: 'Việc thanh toán có thể thông qua nền tảng ví điện tử WeChat Pay và Alipay. Nếu khách hàng mua nhiều hơn 15 lần, họ sẽ được giảm giá làm video gợi cảm tùy chỉnh với giá 3 nhân dân tệ'.
'Chúng tôi cần nhiều ảnh từ các góc độ khác nhau, ít nhất là 20. Càng nhiều ảnh, video sẽ càng chân thực', một người bán video gợi cảm hoán đổi khuôn mặt trên Xianyu nói.
Đại diện của Baidu và Xianyu khẳng định đã xóa một số nội dung và cung cấp các bằng chứng liên quan cho cảnh sát. 'Chúng tôi không khoan nhượng trước hành vi truyền bá thông tin bất hợp pháp và thực hiện các giao dịch như vậy trên nền tảng. Chúng tôi hoàn toàn hợp tác với cảnh sát và các cơ quan thực thi pháp luật khác để xử lý các hoạt động đó', đại diện Baidu chia sẻ.
Tổng thống Mỹ Donald Trump, Mark Zuckerberg, Kim Kardashian nằm trong số những nạn nhân của Deepfake.
Trước đó, nhiều nhân vật nổi tiếng của Mỹ như cựu đệ nhất phu nhân Michelle Obama, người sáng lập Facebook Mark Zuckerberg, Tổng thống Donald Trump và Chủ tịch quốc hội Nancy Pelosi đều từng là nạn nhân của Deepfake. Do đó, nhiều chuyên gia đã bày tỏ sự lo ngại về việc lạm dụng công nghệ 'Deepfake' có thể tạo ra các thông tin sai lệch và nguy hiểm.
Ông Trần Đăng Khoa, Trưởng phòng An ninh mạng quốc gia, cho biết Bộ đã rà soát nhưng chưa phát hiện việc mua bán, trao đổi và phát tán các nội dung như vậy tại Việt Nam. 'Mọi người không nên tìm cách tạo ra các video gợi cảm hoán đổi mặt người nổi tiếng, vì sẽ phạm tội truyền bá nội dung đồi trụy và vi phạm quyền sử dụng hình ảnh cá nhân', ông Khoa nhấn mạnh.
Theo Trang Công Nghệ
Công nghệ nhận diện gương mặt đã tinh vi đến mức độ nào? Nhiều nước tăng cường sử dụng công nghệ nhận diện gương mặt để bảo đảm trật tự trị an. Công nghệ này tốt tới mức nào và đã phát triển đến đâu? Dù việc xác thực dựa trên nhiều yếu tố, theo một số chuyên gia làm việc tại các công ty trí tuệ nhân tạo Trung Quốc, những hệ thống giám sát...