Tổng quan hệ thống H14 GPU • Hai phiên bản: Chạy cả làm mát bằng chất lỏng (liquid cooled 4U) và làm mát bằng không khí (air cooled 8U), sử dụng 8 GPU AMD Instinct MI350 Series cùng 2 CPU AMD EPYC 9005. • Bộ nhớ vượt trội: Tổng cộng 2.304 TB HBM3e (288 GB/in GPU), tăng 1.5x so với thế hệ trước, cùng băng thông bộ nhớ 8 TB/s. • Hiệu suất AI cao hơn: Hiệu năng FP16/FP8 đạt 1.8× petaflops, vượt trội so với dòng MI325X trước đó. ________________________________________ Làm mát bằng chất lỏng – Tiết kiệm 40% năng lượng • Hệ thống 4U liquid cooled với GPU MI355X sử dụng kiến trúc DLC nâng cao, giúp giảm tiêu thụ điện tới 40%. • Thiết kế front I/O rack-scale kết hợp ống làm mát trực tiếp đến các GPU, CPU và bộ nhớ, hỗ trợ mật độ dày đặc mà đảm bảo nhiệt độ hoạt động hiệu quả. ________________________________________ Ứng dụng trong AI & HPC • Lý tưởng cho AI training/inference và HPC: Kết hợp CPU EPYC 9005 và GPU MI350 tối ưu cho các khối lượng công việc lớn – mô hình ngôn ngữ, đồ thị, mô phỏng khoa học,… • Tiết kiệm chi phí vận hành: 40% tiết kiệm điện năng giúp giảm TCO cho trung tâm dữ liệu chạy AI ở quy mô lớn . • Đa dạng lựa chọn triển khai: Khách hàng có thể chọn cấu hình phù hợp giữa air-cooled hoặc liquid-cooled tùy nhu cầu mật độ và hạ tầng làm mát. ________________________________________ Công nghệ & tiêu chuẩn mở • Sử dụng 4th Gen AMD CDNA – hỗ trợ các định dạng FP6/FP4 cho inference lớn. • Chuẩn OCP Accelerator Module (OAM) giúp dễ dàng thay thế hoặc nâng cấp GPU, hỗ trợ đa kiến trúc trong hệ thống mở
Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350
Tổng quan hệ thống H14 GPU • Hai phiên bản: Chạy cả làm mát bằng chất lỏng (liquid cooled 4U) và làm mát bằng không khí (air cooled 8U), sử dụng 8 GPU AMD Instinct MI350 Series cùng 2 CPU AMD EPYC 9005. • Bộ nhớ vượt trội: Tổng cộng 2.304 TB HBM3e (288 GB/in GPU), tăng 1.5x so với thế hệ trước, cùng băng thông bộ nhớ 8 TB/s. • Hiệu suất AI cao hơn: Hiệu năng FP16/FP8 đạt 1.8× petaflops, vượt trội so với dòng MI325X trước đó. ________________________________________ Làm mát bằng chất lỏng – Tiết kiệm 40% năng lượng • Hệ thống 4U liquid cooled với GPU MI355X sử dụng kiến trúc DLC nâng cao, giúp giảm tiêu thụ điện tới 40%. • Thiết kế front I/O rack-scale kết hợp ống làm mát trực tiếp đến các GPU, CPU và bộ nhớ, hỗ trợ mật độ dày đặc mà đảm bảo nhiệt độ hoạt động hiệu quả. ________________________________________ Ứng dụng trong AI & HPC • Lý tưởng cho AI training/inference và HPC: Kết hợp CPU EPYC 9005 và GPU MI350 tối ưu cho các khối lượng công việc lớn – mô hình ngôn ngữ, đồ thị, mô phỏng khoa học,… • Tiết kiệm chi phí vận hành: 40% tiết kiệm điện năng giúp giảm TCO cho trung tâm dữ liệu chạy AI ở quy mô lớn . • Đa dạng lựa chọn triển khai: Khách hàng có thể chọn cấu hình phù hợp giữa air-cooled hoặc liquid-cooled tùy nhu cầu mật độ và hạ tầng làm mát. ________________________________________ Công nghệ & tiêu chuẩn mở • Sử dụng 4th Gen AMD CDNA – hỗ trợ các định dạng FP6/FP4 cho inference lớn. • Chuẩn OCP Accelerator Module (OAM) giúp dễ dàng thay thế hoặc nâng cấp GPU, hỗ trợ đa kiến trúc trong hệ thống mở