Hợp tác thiết kế & phần mềm

Hợp tác thiết kế & phần mềm

Hợp tác thiết kế & phần mềm

Ngày đăng Bởi
Hợp tác chiến lược với Cohere và các startup AI
• AMD đã tăng cường hợp tác chặt chẽ với các startup AI như Cohere, điều này đã giúp giảm thời gian chuyển đổi mã nguồn sang phần cứng AMD từ vài tuần xuống chỉ còn vài ngày nhờ các cải tiến liên tục trên Stack ROCm.
• AMD cũng đã chủ động thuê kỹ sư từ startup AI và mua lại công ty phần mềm, cùng bổ sung nhóm kỹ thuật từ ZT Systems và Lamini… nhằm đẩy mạnh phát triển chip và phần mềm AI nội địa.
________________________________________
OpenAI tham gia thiết kế chip MI450
• OpenAI là một đối tác thiết kế sớm (early design partner) cho chip MI450 của AMD. Đại diện như Sam Altman và Forrest Norrod đã đóng góp điều chỉnh vào kiến trúc bộ nhớ, fabric mở rộng và các toán tử số học trên chip MI450 nhằm phù hợp với các workload GPT và LLM lớn.
• MI450 sẽ là trung tâm của server Helios – rack-scale solution đầu tiên của AMD dự kiến ra mắt năm 2026, tối ưu hóa hiệu năng và khả năng mở rộng cho các nhiệm vụ HPC và AI lớn.
________________________________________
Cải tiến ROCm & môi trường phần mềm mở
• ROCm 7, phiên bản mới nhất của nền tảng phần mềm AI open-source của AMD, cải thiện lớn về hiệu năng (gấp 3x so với ROCm 6 trong inference/training), tăng hỗ trợ frameworks như PyTorch, ONNX, vLLM, SGLang và Docker workflow liền mạch trong môi trường hybrid cloud như Red Hat OpenShift AI.
• AMD đã mở giới hạn ROCm cho môi trường desktop và Windows nữa, giúp các nhà phát triển dễ truy cập và đồng bộ giữa máy cục bộ và cloud.
________________________________________
Hệ sinh thái mở rộng: Meta, Microsoft, Oracle, xAI…
• AMD cùng OpenAI, Meta, Microsoft, Oracle, xAI, Cohere, Red Hat OpenShift AI, Astera Labs và Marvell hợp tác phát triển hệ sinh thái AI mở, tương thích MI350/MI400, hỗ trợ các hệ thống như Oracle Cloud Infrastructure, Azure, các stack enterprise LLM inference hoặc training tại hyperscale. Một số tổ chức dùng ROCm và công nghệ như UALink để triển khai GPU cluster mở rộng hàng giả bộ rack-scale đạt hiệu suất cao
________________________________________
Tác động & mục tiêu dài hạn
• AMD đặt mục tiêu tăng năng suất inferencing lên gấp 35 lần và cải thiện hiệu suất năng lượng tới 38x so với thế hệ cũ (MI350 Series), đồng thời hướng tới 20x tăng hiệu quả năng lượng rack-scale vào năm 2030 so với baseline 2024.
• Mô hình cư xử phần mềm theo hướng "Developer-first", tăng tốc tích hợp ROCm vào CI/CD pipelines như PyTorch CI/CD nhằm thu hút cộng đồng nhà phát triển — bù đắp điểm yếu trước đây khi thiếu software support so với CUDA
Kết luận:
AMD đang chuyển chiến lược sang hợp tác chặt chẽ với startup và chính OpenAI để đồng thiết kế phần cứng (MI450) và nâng cấp phần mềm (ROCm), hướng đến mô hình rack-scale AI server mở (Helios). Đây là bước đi chiến lược để rút ngắn khoảng cách phần mềm so với Nvidia, đồng thời xây dựng hệ sinh thái AI mở và hiệu quả hơn.
Hợp tác thiết kế & phần mềm

Hợp tác thiết kế & phần mềm

Ngày đăng Bởi
Hợp tác chiến lược với Cohere và các startup AI
• AMD đã tăng cường hợp tác chặt chẽ với các startup AI như Cohere, điều này đã giúp giảm thời gian chuyển đổi mã nguồn sang phần cứng AMD từ vài tuần xuống chỉ còn vài ngày nhờ các cải tiến liên tục trên Stack ROCm.
• AMD cũng đã chủ động thuê kỹ sư từ startup AI và mua lại công ty phần mềm, cùng bổ sung nhóm kỹ thuật từ ZT Systems và Lamini… nhằm đẩy mạnh phát triển chip và phần mềm AI nội địa.
________________________________________
OpenAI tham gia thiết kế chip MI450
• OpenAI là một đối tác thiết kế sớm (early design partner) cho chip MI450 của AMD. Đại diện như Sam Altman và Forrest Norrod đã đóng góp điều chỉnh vào kiến trúc bộ nhớ, fabric mở rộng và các toán tử số học trên chip MI450 nhằm phù hợp với các workload GPT và LLM lớn.
• MI450 sẽ là trung tâm của server Helios – rack-scale solution đầu tiên của AMD dự kiến ra mắt năm 2026, tối ưu hóa hiệu năng và khả năng mở rộng cho các nhiệm vụ HPC và AI lớn.
________________________________________
Cải tiến ROCm & môi trường phần mềm mở
• ROCm 7, phiên bản mới nhất của nền tảng phần mềm AI open-source của AMD, cải thiện lớn về hiệu năng (gấp 3x so với ROCm 6 trong inference/training), tăng hỗ trợ frameworks như PyTorch, ONNX, vLLM, SGLang và Docker workflow liền mạch trong môi trường hybrid cloud như Red Hat OpenShift AI.
• AMD đã mở giới hạn ROCm cho môi trường desktop và Windows nữa, giúp các nhà phát triển dễ truy cập và đồng bộ giữa máy cục bộ và cloud.
________________________________________
Hệ sinh thái mở rộng: Meta, Microsoft, Oracle, xAI…
• AMD cùng OpenAI, Meta, Microsoft, Oracle, xAI, Cohere, Red Hat OpenShift AI, Astera Labs và Marvell hợp tác phát triển hệ sinh thái AI mở, tương thích MI350/MI400, hỗ trợ các hệ thống như Oracle Cloud Infrastructure, Azure, các stack enterprise LLM inference hoặc training tại hyperscale. Một số tổ chức dùng ROCm và công nghệ như UALink để triển khai GPU cluster mở rộng hàng giả bộ rack-scale đạt hiệu suất cao
________________________________________
Tác động & mục tiêu dài hạn
• AMD đặt mục tiêu tăng năng suất inferencing lên gấp 35 lần và cải thiện hiệu suất năng lượng tới 38x so với thế hệ cũ (MI350 Series), đồng thời hướng tới 20x tăng hiệu quả năng lượng rack-scale vào năm 2030 so với baseline 2024.
• Mô hình cư xử phần mềm theo hướng "Developer-first", tăng tốc tích hợp ROCm vào CI/CD pipelines như PyTorch CI/CD nhằm thu hút cộng đồng nhà phát triển — bù đắp điểm yếu trước đây khi thiếu software support so với CUDA
Kết luận:
AMD đang chuyển chiến lược sang hợp tác chặt chẽ với startup và chính OpenAI để đồng thiết kế phần cứng (MI450) và nâng cấp phần mềm (ROCm), hướng đến mô hình rack-scale AI server mở (Helios). Đây là bước đi chiến lược để rút ngắn khoảng cách phần mềm so với Nvidia, đồng thời xây dựng hệ sinh thái AI mở và hiệu quả hơn.
Trước Samsung ra mắt SSD dung lượng lớn nhất
Tiếp theo Tăng cầu sửa chữa chip AI Nvidia tại Trung Quốc
Bình luận
Copyright © 2024 - Fastest, All Rights Reserved.