Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350

Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350

Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350

Ngày đăng Bởi

 

 Tổng quan hệ thống H14 GPU
•        Hai phiên bản: Chạy cả làm mát bằng chất lỏng (liquid cooled 4U) và làm mát bằng không khí (air cooled 8U), sử dụng 8 GPU AMD Instinct MI350 Series cùng 2 CPU AMD EPYC 9005.
•        Bộ nhớ vượt trội: Tổng cộng 2.304 TB HBM3e (288 GB/in GPU), tăng 1.5x so với thế hệ trước, cùng băng thông bộ nhớ 8 TB/s.
•        Hiệu suất AI cao hơn: Hiệu năng FP16/FP8 đạt 1.8× petaflops, vượt trội so với dòng MI325X trước đó.
________________________________________
 Làm mát bằng chất lỏng – Tiết kiệm 40% năng lượng
•        Hệ thống 4U liquid cooled với GPU MI355X sử dụng kiến trúc DLC nâng cao, giúp giảm tiêu thụ điện tới 40%.
•        Thiết kế front I/O rack-scale kết hợp ống làm mát trực tiếp đến các GPU, CPU và bộ nhớ, hỗ trợ mật độ dày đặc mà đảm bảo nhiệt độ hoạt động hiệu quả.
________________________________________
 Ứng dụng trong AI & HPC
•        Lý tưởng cho AI training/inference và HPC: Kết hợp CPU EPYC 9005 và GPU MI350 tối ưu cho các khối lượng công việc lớn – mô hình ngôn ngữ, đồ thị, mô phỏng khoa học,… 
•        Tiết kiệm chi phí vận hành: 40% tiết kiệm điện năng giúp giảm TCO cho trung tâm dữ liệu chạy AI ở quy mô lớn .
•        Đa dạng lựa chọn triển khai: Khách hàng có thể chọn cấu hình phù hợp giữa air-cooled hoặc liquid-cooled tùy nhu cầu mật độ và hạ tầng làm mát.
________________________________________
 Công nghệ & tiêu chuẩn mở
•        Sử dụng 4th Gen AMD CDNA – hỗ trợ các định dạng FP6/FP4 cho inference lớn.
•        Chuẩn OCP Accelerator Module (OAM) giúp dễ dàng thay thế hoặc nâng cấp GPU, hỗ trợ đa kiến trúc trong hệ thống mở

Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350

Supermicro ra mắt hệ thống GPU H14 tích hợp AMD Instinct MI350

Ngày đăng Bởi

 

 Tổng quan hệ thống H14 GPU
•        Hai phiên bản: Chạy cả làm mát bằng chất lỏng (liquid cooled 4U) và làm mát bằng không khí (air cooled 8U), sử dụng 8 GPU AMD Instinct MI350 Series cùng 2 CPU AMD EPYC 9005.
•        Bộ nhớ vượt trội: Tổng cộng 2.304 TB HBM3e (288 GB/in GPU), tăng 1.5x so với thế hệ trước, cùng băng thông bộ nhớ 8 TB/s.
•        Hiệu suất AI cao hơn: Hiệu năng FP16/FP8 đạt 1.8× petaflops, vượt trội so với dòng MI325X trước đó.
________________________________________
 Làm mát bằng chất lỏng – Tiết kiệm 40% năng lượng
•        Hệ thống 4U liquid cooled với GPU MI355X sử dụng kiến trúc DLC nâng cao, giúp giảm tiêu thụ điện tới 40%.
•        Thiết kế front I/O rack-scale kết hợp ống làm mát trực tiếp đến các GPU, CPU và bộ nhớ, hỗ trợ mật độ dày đặc mà đảm bảo nhiệt độ hoạt động hiệu quả.
________________________________________
 Ứng dụng trong AI & HPC
•        Lý tưởng cho AI training/inference và HPC: Kết hợp CPU EPYC 9005 và GPU MI350 tối ưu cho các khối lượng công việc lớn – mô hình ngôn ngữ, đồ thị, mô phỏng khoa học,… 
•        Tiết kiệm chi phí vận hành: 40% tiết kiệm điện năng giúp giảm TCO cho trung tâm dữ liệu chạy AI ở quy mô lớn .
•        Đa dạng lựa chọn triển khai: Khách hàng có thể chọn cấu hình phù hợp giữa air-cooled hoặc liquid-cooled tùy nhu cầu mật độ và hạ tầng làm mát.
________________________________________
 Công nghệ & tiêu chuẩn mở
•        Sử dụng 4th Gen AMD CDNA – hỗ trợ các định dạng FP6/FP4 cho inference lớn.
•        Chuẩn OCP Accelerator Module (OAM) giúp dễ dàng thay thế hoặc nâng cấp GPU, hỗ trợ đa kiến trúc trong hệ thống mở

Trước AMD ra mắt chip AI và giới thiệu server Helios, tập trung theo 2 khía cạnh chính: chip MI350/MI400/MI450 và server Helios
Tiếp theo Supermicro hợp tác cùng NVIDIA "thúc đẩy AI Factory" tại châu Âu
Bình luận
Copyright © 2024 - Fastest, All Rights Reserved.