Keysight giới thiệu giải pháp AI Data Centre Builder giúp tối ưu hóa kiến trúc mạng

Keysight Technologies vừa giới thiệu Keysight AI (KAI) Data Centre Builder, bộ phần mềm tiên tiến có chức năng giả lập các ứng dụng thực tế để đánh giá tác động cải thiện hiệu năng huấn luyện AI của các thuật toán, linh kiện và giao thức mới.

Tính năng giả lập ứng dụng của KAI Data Centre Builder tích hợp mô hình ngôn ngữ lớn (LLM) và các ứng dụng huấn luyện mô hình trí tuệ nhân tạo (AI) khác vào quá trình thiết kế và xác nhận các cấu phần của hạ tầng AI – mạng, máy chủ host và các bộ tăng tốc. Giải pháp này tạo ra sự cộng lực chặt chẽ hơn giữa thiết kế phần cứng, các giao thức, kiến trúc và các thuật toán huấn luyện AI, giúp cải thiện hiệu năng hệ thống.

Keysight Technologies hiện phát triển nhiều giải pháp đo kiểm tự động. ẢNH: AFP

Giải pháp giả lập ứng dụng KAI Data Centre Builder tái tạo các mẫu hình kết nối mạng của các nhiệm vụ huấn luyện AI thực tế để đẩy nhanh thử nghiệm, rút ngắn thời gian cần học để thuần thục và giúp hiểu sâu hơn về các nguyên nhân suy giảm hiệu năng, là những kết quả khó đạt được khi chỉ đơn thuần thực hiện các nhiệm vụ huấn luyện AI. Khách hàng của Keysight có thể tiếp cận thư viện ứng dụng LLM như GPT và Llama, với một số phương thức phân vùng mô hình đã được lựa chọn như Data Parallel (DP), Fully Sharded Data Parallel (FSDP) và xử lý song song 3 chiều three-dimensional (3D) parallelism.

Ngoài ra, năng lực giả lập ứng dụng mới của KAI Data Centre Builder giúp các nhà khai thác AI, các nhà cung cấp đám mây GPU và các nhà cung cấp thiết bị cơ sở hạ tầng đưa các ứng dụng AI thực tế vào môi trường phòng thí nghiệm của họ để xác nhận các thiết kế thường xuyên thay đổi của các cụm AI và các cấu phần mới. Họ cũng có thể thử nghiệm để tinh chỉnh các phương thức, tham số và thuật toán, giúp tối ưu hóa hạ tầng và cải thiện hiệu năng ứng dụng AI.

Ram Periakaruppan, Phó chủ tịch kiêm Tổng giám đốc, bộ phận Giải pháp đo kiểm và an ninh mạng, Keysight, cho biết: “Khi quy mô và độ phức tạp của cơ sở hạ tầng AI đều tăng, khả năng xác nhận và tối ưu hóa toàn bộ giao thức trở thành nhu cầu thiết yếu. Để tránh chậm trễ và làm lại, cần thực hiện xác nhận ngay từ những giai đoạn đầu tiên của quá trình thiết kế và chu kỳ sản xuất. Tính năng giả lập ứng dụng của KAI Data Centre Builder đưa đến cho quá trình thiết kế linh kiện và hệ thống AI một cấp độ hiện thực mới, tối ưu hóa ứng dụng để đạt hiệu năng đỉnh cao”.