Cảnh báo AI có thể đưa bạn đến trang nhiễm phần mềm độc hại
Nghiên cứu mới phát hiện AI thường cung cấp URL sai, có thể khiến người dùng đối mặt với các rủi ro như tấn công lừa đảo (phishing) và phần mềm độc hại.
Hacker đang tìm cách tận dụng kẽ hở của AI
Một báo cáo từ Netcraft cho biết, cứ ba liên kết đăng nhập do các mô hình ngôn ngữ lớn (LLM), gồm cả GPT-4.1cung cấp, thì có một liên kết (34%) không thuộc sở hữu của thương hiệu được hỏi. Trong đó, 29% dẫn đến các tên miền chưa được đăng ký, không hoạt động hoặc bị “lấp tên miền” (parked), còn 5% dẫn đến các tên miền hợp pháp nhưng không liên quan. Chỉ có 66% liên kết là đúng với tên miền chính thức của thương hiệu.
Đáng lo ngại, chỉ với những câu hỏi đơn giản như “trang đăng nhập của (thương hiệu hay công ty) là gì”, AI cũng có thể đưa ra kết quả không an toàn – tức là không cần đến những chiêu trò đánh lừa phức tạp.
Cẩn trọng với các liên kết được AI tạo ra cho bạn
Netcraft cảnh báo rằng hạn chế này có thể dẫn đến nguy cơ lừa đảo quy mô lớn, khi người dùng dễ dàng bị dẫn dụ vào các trang web lừa đảo chỉ vì hỏi chatbot một câu hỏi có vẻ hợp lệ.
Những kẻ tấn công, nếu nhận ra lỗ hổng này, có thể nhanh chóng đăng ký các tên miền chưa được sở hữu mà AI gợi ý, rồi sử dụng chúng để triển khai các cuộc tấn công. Một trường hợp thực tế đã xảy ra khi Perplexity AI từng gợi ý một trang Wells Fargo giả mạo.
Báo cáo cho biết các thương hiệu nhỏ dễ bị tổn thương hơn, vì chúng thường bị thiếu dữ liệu huấn luyện trong các mô hình ngôn ngữ lớn, từ đó tăng khả năng AI tạo ra các URL “ảo tưởng” (hallucinated).
Ngoài ra, các tin tặc cũng đã được quan sát là đang tối ưu hóa trang web của mình cho AI thay vì tối ưu cho các công cụ tìm kiếm truyền thống như Google. Ước tính đã có khoảng 17.000 trang phishing trên GitBook nhắm đến người dùng tiền mã hóa được tạo ra theo cách này, trong đó các trang giả mạo thường mô phỏng các trang hỗ trợ kỹ thuật, tài liệu và trang đăng nhập.
Đáng lo hơn nữa là Netcraft đã phát hiện một số nhà phát triển đã sử dụng các URL do AI tạo ra trong mã nguồn của họ. Nhóm nghiên cứu viết: “Chúng tôi tìm thấy ít nhất năm nạn nhân đã sao chép mã độc hại này vào các dự án công khai của họ và một số dự án trong đó cho thấy dấu hiệu được xây dựng bằng công cụ lập trình sử dụng AI , bao gồm cả Cursor”.
Video đang HOT
Cần làm gì để phòng tránh
Việc các mô hình AI có thể tạo ra các URL không chính xác, dẫn đến nguy cơ lừa đảo (phishing) và phần mềm độc hại ( malware ), là một mối lo ngại lớn. Điều này đòi hỏi người dùng phải cảnh giác hơn bao giờ hết khi tương tác với nội dung do AI tạo ra.
Luôn xác minh URL một cách thủ công
Đây là biện pháp quan trọng nhất. Đừng bao giờ nhấp trực tiếp vào các liên kết do AI tạo ra mà không kiểm tra trước.
Nhập URL thủ công: Cách an toàn nhất là tự mình gõ địa chỉ trang web trực tiếp vào thanh tìm kiếm của trình duyệt. Ví dụ, nếu AI cung cấp liên kết “wellsfargo.com”, thay vì nhấp vào đó, hãy mở trình duyệt và gõ “wellsfargo.com” vào thanh địa chỉ.
Sử dụng công cụ tìm kiếm tin cậy: Nếu bạn không chắc chắn về địa chỉ chính xác, hãy sử dụng Google hoặc công cụ tìm kiếm tin cậy khác để tìm trang web chính thức của thương hiệu.
Kiểm tra kỹ lưỡng các liên kết và tên miền
Trước khi quyết định nhấp, hãy kiểm tra các dấu hiệu bất thường:
Di chuột qua liên kết (Hovering): Di chuột qua liên kết mà không nhấp vào. Địa chỉ URL thực tế sẽ hiển thị ở góc dưới cùng của trình duyệt. Hãy kiểm tra xem địa chỉ đó có khớp hoàn toàn với tên miền chính thức của tổ chức không. Kẻ lừa đảo thường sử dụng các tên miền gần giống (ví dụ: g00gle.com thay vì google.com hoặc amaz0n.com thay vì amazon.com).
Kiểm tra tên miền cấp cao nhất (TLD): Đảm bảo tên miền có TLD hợp pháp (ví dụ: .com, .org, .gov, .edu). Cẩn thận với các TLD lạ hoặc ít được biết đến nếu không quen thuộc.
Sử dụng các công cụ kiểm tra URL: Có nhiều dịch vụ trực tuyến miễn phí cho phép bạn dán một URL vào và kiểm tra xem nó có an toàn không (ví dụ: Google Safe Browse, VirusTotal).
Cảnh giác với các dấu hiệu lừa đảo
Yêu cầu thông tin nhạy cảm: Các trang lừa đảo thường yêu cầu thông tin nhạy cảm như mật khẩu, số thẻ tín dụng, số an sinh xã hội hoặc thông tin cá nhân khác. Một trang web hợp pháp sẽ không yêu cầu bạn nhập lại thông tin này một cách bất thường.
Lỗi chính tả, ngữ pháp và thiết kế kém: Các trang lừa đảo thường có lỗi chính tả, ngữ pháp hoặc thiết kế sơ sài, không chuyên nghiệp so với trang web chính thức của một thương hiệu lớn.
Cảm giác cấp bách hoặc đe dọa: Các email hoặc trang lừa đảo thường cố gắng tạo ra cảm giác sợ hãi hoặc cấp bách để bạn hành động nhanh chóng mà không suy nghĩ kỹ.
Nâng cao kiến thức về an ninh mạng
Hiểu biết về “ảo giác” của AI: Nhận thức rằng AI có thể “ảo giác” (hallucinate) hoặc tạo ra thông tin không chính xác, kể cả các URL. Điều này đặc biệt đúng với các thương hiệu nhỏ hoặc thông tin ít phổ biến trong dữ liệu huấn luyện của AI.
Tìm hiểu về các chiêu trò lừa đảo phổ biến: Nắm rõ các phương pháp lừa đảo qua mạng phổ biến (phishing, smishing, vishing) để nhận diện các dấu hiệu cảnh báo.
Cập nhật phần mềm bảo mật
Sử dụng phần mềm diệt virus và tường lửa đáng tin cậy: Đảm bảo máy tính và thiết bị di động của bạn được cài đặt phần mềm diệt virus và tường lửa được cập nhật liên tục để phát hiện và ngăn chặn phần mềm độc hại.
Cập nhật trình duyệt và hệ điều hành: Luôn giữ trình duyệt web và hệ điều hành của bạn ở phiên bản mới nhất để hưởng lợi từ các bản vá bảo mật.
Sử dụng xác thực đa yếu tố (MFA)
Kích hoạt xác thực đa yếu tố (MFA) cho tất cả các tài khoản trực tuyến quan trọng (email, ngân hàng, mạng xã hội..). Điều này cung cấp thêm một lớp bảo vệ ngay cả khi mật khẩu của bạn bị lộ.
Sử dụng AI có trách nhiệm trong lĩnh vực quốc phòng
Việc sử dụng trí tuệ nhân tạo (AI) một cách có trách nhiệm trong lĩnh vực quân sự nhận được đồng thuận cao từ nhiều quốc gia, trước bối cảnh lo ngại chung về nguy cơ AI bị quân sự hóa.
Năng lực AI trong lĩnh vực quân sự không chỉ là vũ khí, mà còn gồm các hệ thống hỗ trợ, giúp chỉ huy ở mọi cấp đưa ra quyết định tối ưu và kịp thời, từ công tác lập kế hoạch tài chính quân sự cho đến hoạt động thu thập, hợp nhất dữ liệu tình báo, giám sát...
Nằm trong lộ trình triển khai và chiến lược AI có trách nhiệm của Bộ Quốc phòng Mỹ, tháng 11/2023, Văn phòng Trí tuệ nhân tạo và Kỹ thuật số Mỹ (CDAO) đã công bố Bộ công cụ AI có trách nhiệm (RAI). Ông Pete Hegseth, Bộ trưởng Quốc phòng Mỹ cho biết, RAI cung cấp các công cụ và hướng dẫn tập trung nhấn mạnh tính công bằng, minh bạch và trách nhiệm giải trình trong AI. Bộ công cụ RAI bao gồm khoảng 70 mã nguồn mở, tiêu chuẩn công nghiệp được thiết kế để hỗ trợ nhiều hoạt động liên quan đến công nghiệp quốc phòng.
Để nâng cao nhận thức về tầm quan trọng và đánh giá những thách thức tiềm ẩn của AI trong lĩnh vực quân sự, nhiều quốc gia đã tiến hành các cuộc thảo luận liên quan đến mục tiêu xây dựng khuôn khổ quốc tế. Ông Wopke Hoekstra, Bộ trưởng Bộ Ngoại giao Hà Lan đánh giá, những nỗ lực trong việc hình thành một khuôn khổ quốc tế chung là bước đi quan trọng nhằm định hướng phát triển và triển khai AI trong quân sự một cách có trách nhiệm và đạo đức.
Tiêu biểu như Tuyên bố chính trị về việc sử dụng quân sự có trách nhiệm đối với AI và quyền tự chủ, được phía Mỹ đề xuất tại Hội nghị thượng đỉnh AI có trách nhiệm trong lĩnh vực quân sự (REAIM) ở Hague (Hà Lan) vào tháng 2/2023. Tuyên bố nhằm mục đích xây dựng sự đồng thuận quốc tế xung quanh hành vi sử dụng công nghệ AI có trách nhiệm và đề ra phương hướng phát triển cho các quốc gia trong việc triển khai và sử dụng AI trong lĩnh vực quân sự.
Về mặt pháp lý, Tuyên bố bao gồm một loạt hướng dẫn không ràng buộc pháp lý, mô tả các thông lệ tốt nhất cho việc sử dụng AI có trách nhiệm trong quân đội. Đơn cử như hướng dẫn đảm bảo hệ thống AI trong quân đội phải trải qua quá trình thử nghiệm và đánh giá nghiêm ngặt trong suốt vòng đời của chúng, có mục đích sử dụng rõ ràng, có khả năng phát hiện và tránh các hành vi không mong muốn. Bên cạnh đó, Tuyên bố cung cấp cơ sở để trao đổi các thông lệ tốt nhất, cho phép các quốc gia ủng hộ chia sẻ kinh nghiệm và ý tưởng. Tính đến nay, Tuyên bố đã nhận được sự ủng hộ của hơn 70 quốc gia.
Đối với khả năng tự học, công nghệ AI được lập trình sẽ liên tục cập nhật các "tiềm lực quân sự" mới. Tuy nhiên, sai sót trong quá trình vận hành hoàn toàn có thể xảy ra. Chính phủ các nước nên thiết lập chính sách về AI trong lĩnh vực quân sự, nhằm thực hiện những biện pháp bảo vệ thích hợp để giảm thiểu rủi ro về thất bại trong năng lực AI quân sự, chẳng hạn như khả năng phát hiện và ứng phó, tránh hậu quả không mong muốn thông qua chức năng ngắt kết nối (vô hiệu hóa) các hệ thống đã triển khai.
Về lâu dài, chính sách AI quân sự của các quốc gia cần được xây dựng và tuân thủ dựa trên nguyên tắc về tính an toàn, bảo mật, đảm bảo hoạt động thử nghiệm được kiểm tra nghiêm ngặt trong phạm vi sử dụng và được kiểm soát trong toàn bộ vòng đời của sản phẩm AI.
AI ngày càng nguy hiểm Nghiên cứu của MIT cho thấy lạm dụng ChatGPT có thể làm suy giảm khả năng tư duy phản biện, đặc biệt ở người trẻ khi não bộ vẫn đang trong quá trình phát triển. Con người có xu hướng lệ thuộc vào AI. Ảnh: MarketWatch. Một nghiên cứu mới từ Phòng thí nghiệm Truyền thông (Media Lab) thuộc Viện Công nghệ Massachusetts...
Tiêu điểm
Tin đang nóng
Tin mới nhất

Cơ hội cho Đông Nam Á trong cuộc đua công nghệ AI

Ngành ô tô đang khai thác sức mạnh của AI như thế nào?

AI khiến nông nghiệp phát triển như đi xa lộ 6 làn

Windows 11 chính thức vượt Windows 10 về độ phổ quát

5 cách đầu tư tiền điện tử hiệu quả cho người mới

Cường quốc công nghệ triển khai sáng kiến AI y tế mang tính đột phá

Cách khắc phục sự cố Wi-Fi trên Windows 11 dễ dàng, tiện lợi

Robot nấu ăn của Trung Quốc lập kỳ tích mới

Bên trong phòng thử nghiệm độ bền iPhone của Apple

Google gỡ bỏ 352 ứng dụng Android độc hại khỏi Play Store

Cách AI sẽ định hình lại tương lai việc làm

X cho phép bot AI kiểm chứng thông tin: Cách mạng hay rủi ro tiềm ẩn?
Có thể bạn quan tâm

Phản ứng của Jo Yu Ri khi bị chê cảnh sinh con phi lý trong "Squid Game 3"
Hậu trường phim
13:19:46 09/07/2025
Dịu dàng màu nắng - Tập 27: Lan Anh bị xúc phạm ngay tại spa, Xuân bàng hoàng vì em gái giấu chuyện làm thêm
Phim việt
13:15:00 09/07/2025
Áo blazer giúp nàng khoác lên mình hình ảnh quý cô hiện đại
Thời trang
13:03:18 09/07/2025
8 món ăn đơn giản từ trứng hỗ trợ giảm cân hiệu quả
Làm đẹp
13:01:29 09/07/2025
Mít kho rau răm thơm ngon, đậm đà cho bữa cơm gia đình
Ẩm thực
12:57:19 09/07/2025
Tài vận lên hương ngày 10/7: 3 chòm sao vươn lên mạnh mẽ, tiền tài - sự nghiệp - tình cảm đều bừng sáng
Trắc nghiệm
12:36:55 09/07/2025
Oppo tái hiện đại dương kỳ ảo tại sự kiện trải nghiệm Reno14 Series
Đồ 2-tek
12:34:34 09/07/2025
Khởi tố vụ án sản xuất, tiêu thụ gần 1 tấn pháo hoa nổ liên tỉnh
Pháp luật
12:17:25 09/07/2025
Điều đáng sợ ẩn giấu trong căn phòng của Hồng Tỷ: Đã nhiều vụ tương tự, vẫn tiếp tục "sập bẫy"!
Netizen
11:58:31 09/07/2025
Không cần sống tối giản cực đoan, nhưng 10 thứ này bạn nên vứt bỏ càng sớm càng tốt
Sáng tạo
11:45:25 09/07/2025