Khám phá khả năng xử lý AI cục bộ trên laptop

Kết hợp GPU Blackwell với bộ nhớ hợp nhất dung lượng lớn, Nvidia RTX Spark hướng đến việc xử lý các tác vụ AI phức tạp trực tiếp trên laptop Windows.

RTX Spark và kiến trúc phần cứng

Nvidia RTX Spark là nền tảng laptop Windows kết hợp CPU ARM và GPU Blackwell, phục vụ AI, sáng tạo nội dung và chơi game. Điểm nổi bật là khả năng chạy các mô hình AI lớn trực tiếp trên thiết bị, giảm phụ thuộc vào đám mây.

Phiên bản RTX Spark N1X thử nghiệm trang bị CPU 20 nhân và GPU Blackwell với 6.144 nhân CUDA, tích hợp nhân Tensor thế hệ thứ năm để tăng tốc AI và nhân RT thế hệ thứ tư hỗ trợ dò tia (ray tracing).

Mẫu chip Nvidia RTX Spark với bộ nhớ LPDDR5X bố trí xung quanh, hỗ trợ CPU và GPU xử lý các tác vụ AI cục bộ. ẢNH: KHẢI MINH

RTX Spark sử dụng bộ nhớ LPDDR5X dùng chung cho CPU và GPU, đạt băng thông tối đa 300 GB/giây. Nền tảng hỗ trợ đến 128 GB RAM, trong khi laptop thử nghiệm trang bị 64 GB, cho phép chạy nhiều mô hình AI cục bộ.

Hệ thống sử dụng Windows 11 ARM64, hỗ trợ phần mềm ARM cùng các ứng dụng x86, x64 thông qua lớp giả lập Prism. Công nghệ CUDA đảm nhiệm tăng tốc những tác vụ AI tương thích.

Thiết kế mỏng gọn cho thấy phần cứng phục vụ AI chuyên sâu đang dần hiện diện trên những chiếc laptop thông thường. ẢNH: KHẢI MINH

Khả năng vận hành các mô hình AI lớn

Với 64 GB bộ nhớ hợp nhất, RTX Spark có thể chạy các mô hình AI hàng chục tỉ tham số ngay trên laptop. Tuy nhiên, khả năng xử lý còn phụ thuộc vào tốc độ phản hồi và thời gian hoàn thành tác vụ.

Trong bài kiểm tra AgentPerf Local, mô phỏng các công việc AI nhiều bước như phân tích yêu cầu và viết mã, RTX Spark hoàn thành 168 lượt xử lý thuộc 8 nhiệm vụ với mô hình Qwen3.8 27B. Tốc độ tạo văn bản tăng từ 20,69 token/giây ở thiết lập MTP lên 36,22 token/giây với DFlash, giúp rút ngắn tổng thời gian khoảng 31,5%.

Với mô hình Qwen3.8 27B có 27 tỉ tham số, RTX Spark hoàn thành 168 lượt xử lý thuộc 8 nhiệm vụ. Tốc độ tạo văn bản tăng từ 20,69 token/giây ở thiết lập MTP lên 36,22 token/giây với DFlash, giúp giảm tổng thời gian xử lý khoảng 31,5%.

Trong bài kiểm tra MLPerf Client 2.0.1, mô hình Qwen3 8B hoàn thành tác vụ AI Agent có sử dụng công cụ trong trung bình 56,8 giây. Với FLUX.2 Klein 4B, hệ thống đạt tốc độ tạo ảnh 37,69 ảnh/phút, tương đương 1,59 giây mỗi ảnh.

Khả năng sáng tạo nội dung còn được kiểm tra bằng ComfyUI, phần mềm chạy các mô hình tạo ảnh và video trực tiếp trên thiết bị. FLUX.2 Klein 4B mất trung bình 14,05 giây để tạo ảnh, trong khi FLUX.2 Dev cần 40,46 giây. Mô hình tạo video LTX 2.5 hoàn thành tác vụ trong khoảng 68,51 giây. Các kết quả không thể so sánh trực tiếp do khác biệt về mô hình và cấu hình.

Để AI tự phát triển một ứng dụng Windows

RTX Spark còn được thử nghiệm với Hermes, AI Agent có khả năng sử dụng công cụ, viết mã và thao tác trực tiếp trên máy tính. Với mô hình Qwen3.8 27B chạy cục bộ, Hermes nhận yêu cầu bằng tiếng Việt để phát triển QuickWebP, ứng dụng Windows hỗ trợ thay đổi kích thước và chuyển đổi ảnh hàng loạt.

Sau khoảng 2 giờ 9 phút, Hermes hoàn thành ứng dụng, dù gặp một số lỗi thư viện và môi trường Python trong quá trình phát triển. AI đã tự tìm nguyên nhân, sửa mã và kiểm thử.

QuickWebP xử lý thành công 329 ảnh JPG trong 246 giây. Với nhóm 20 ảnh, ứng dụng mất 8,8 giây khi xuất JPG và 12,3 giây khi chuyển sang WebP, đáp ứng nhu cầu xử lý ảnh thông thường..

Hiệu năng đồ họa và trải nghiệm chơi game

Dù tập trung vào AI cục bộ, RTX Spark vẫn tích hợp GPU Blackwell, hỗ trợ xử lý đồ họa và chơi game. Trong các bài kiểm tra 3DMark, hệ thống đạt 9.230 điểm Port Royal, 3.004 điểm Speed Way và 3.184 điểm Steel Nomad. Kết quả nhìn chung sát với số liệu tham chiếu của Nvidia, chênh lệch không quá 6,5%.

Với Cyberpunk 2077 ở độ phân giải 2K, thiết lập Ray Tracing Low, DLSS Auto và Multi Frame Generation 3X, hệ thống đạt trung bình 136,55 FPS, thấp nhất 117,56 FPS, cho thấy khả năng đáp ứng nhu cầu chơi game bên cạnh các tác vụ AI.

Đánh giá chung

Qua các thử nghiệm, Nvidia RTX Spark cho thấy khả năng xử lý nhiều tác vụ AI cục bộ trên laptop, từ vận hành mô hình ngôn ngữ lớn, tạo hình ảnh, video đến phát triển ứng dụng. Bộ nhớ hợp nhất dung lượng lớn cùng GPU Blackwell đóng vai trò quan trọng trong việc đáp ứng những nhu cầu này.

RTX Spark mở ra hướng tiếp cận mới cho laptop Windows, kết hợp hiệu năng đồ họa và khả năng xử lý AI cục bộ trên cùng một nền tảng. ẢNH: KHẢI MINH

Thử nghiệm với Hermes cho thấy RTX Spark có khả năng vận hành AI Agent tự thực hiện nhiều bước công việc, từ phân tích yêu cầu đến xử lý lỗi. Với bộ nhớ hợp nhất 64 GB, nền tảng này cho thấy tiềm năng đưa các mô hình AI lớn vào công việc hằng ngày, giảm phụ thuộc vào dịch vụ đám mây.