Bộ xử lý thần kinh của Samsung giảm tiêu tốn năng lượng điện thoại bằng AI

Giờ đây, AI là yếu tố không thể thiếu được trong công nghệ ngày nay khi thực hiện thao tác từ trang web cho đến những căn hộ và các thiết bị di động.

Tuy nhiên, phần lớn các AI như thế này chỉ được sử dụng trong đám mây liên quan đến bảo mật, quyền riêng tư và hiệu suất. Lĩnh vực di động gần đây xuất hiện xu hướng trực tiếp tích hợp một số công nghệ AI xử lý bên trong điện thoại thông minh và Samsung là một trong những công ty tiên phong xu hướng đó.

Hiện nay, tập đoàn công nghệ điện tử đang chế tạo công nghệ xử lý AI trên điện thoại tiêu tốn ít dung lượng hơn. Trớ trêu thay, Samsung thực hiện nhiệm vụ này bằng cách thu nhỏ nhóm dữ liệu so với các mô hình AI có khả năng học sâu (deep learning) thông thường.

Khi xét các mô hình thuật toán truyền thống, Samsung cho biết dữ liệu học sâu được nhóm thành hệ 32 bit. Công nghệ này dĩ nhiên đòi hỏi cần nhiều phần cứng dưới dạng linh kiện bán dẫn, từ đó tiêu thụ nhiều năng lượng hơn. Điều này không thành vấn đề đối với những chiếc điện thoại có dung lượng pin lớn nhưng có thể lại thành trở ngại đối với những dòng điện thoại khác. Hơn nữa, nó còn “ngốn” năng lượng quá mức cần thiết mà đáng lẽ nên được để dành cho các hoạt động quan trọng hơn.

Nghiên cứu của Samsung đã đưa ra kết luận rằng chỉ cần nhóm dữ liệu thành hệ 4 bit trong khi vẫn duy trì độ chính xác của dữ liệu, công ty sẽ bớt cần đến phần cứng và tiêu tốn ít năng lượng hơn đối với quá trình deep learning. Kỹ thuật này được gọi là “Quantization Interval Learning”, và đôi khi nó còn chính xác hơn so với việc phải chuyển dữ liệu từ máy chủ. Theo như Samsung, tất cả sẽ chỉ ngốn năng lượng tương đương 1/40 đến 1/120 số lượng linh kiện bán dẫn.

Như vậy, khả năng AI xử lý trên điện thoại hoặc trên thiết bị thậm chí còn khả thi hơn là việc cố gắng giảm tải AI cho máy chủ từ xa. Điều đó không chỉ làm giảm độ trễ phản hồi vì các tác vụ đều được gửi trực tiếp trên thiết bị mà còn làm giảm nguy cơ nghe lén.

Hiện tại, Samsung mới chỉ công bố công nghệ làm nền tảng cho Bộ xử lý thần kinh NPU chứ không phải chính NPU. Rất có thể, công nghệ này sẽ được nhúng trong chip Exynos sắp được công bố vào cuối năm nay.

Theo VN Review