Broadcom bổ sung GPU NVIDIA Blackwell vào VMware Cloud

Broadcom bổ sung GPU NVIDIA Blackwell vào VMware Cloud

Broadcom bổ sung GPU NVIDIA Blackwell vào VMware Cloud

Ngày đăng Bởi
 
 
 
Lợi ích chính
1. Hiệu suất AI cao cấp
Các GPU Blackwell cho phép xử lý tác vụ AI — từ huấn luyện quy mô lớn đến suy luận (inference) — với tốc độ và khả năng mở rộng vượt trội.
2. Mạng tốc độ cao — thúc đẩy AI phân tán
Thông qua ConnectX-7 và BlueField-3 DPU, hệ thống hỗ trợ chia sẻ dữ liệu và xử lý mô hình AI hiệu quả hơn trong môi trường multi-node, giảm độ trễ và tăng hiệu suất hệ.
3. Giữ nguyên quy trình vận hành quen thuộc
VCF vẫn bảo lưu các tính năng quản lý và ảo hóa cơ bản như vMotion, High Availability (HA), Distributed Resource Scheduler (DRS) và Live Patching. Điều này giúp doanh nghiệp không cần thay đổi quy trình khi triển khai workloads AI
Khả năng AI Native và Hệ sinh thái đám mây
Tích hợp sẵn các dịch vụ AI:
VCF 9.0 gồm VMware Private AI Services như phần mềm mặc định (no-extra-cost), giúp doanh nghiệp triển khai AI ngay trong private cloud bao gồm các thành phần như: GPU Monitoring, Model Store, Model Runtime, Agent Builder, Vector Database, Data Indexing/Retrieval và nhiều tính năng quản lý khác.
Môi trường đa GPU và đa tenant:
• Multi-accelerator Model Runtime: Cho phép doanh nghiệp triển khai AI trên GPU NVIDIA hoặc AMD mà không cần thay đổi mã nguồn AI.
• Multi-tenant Models-as-a-Service: Hỗ trợ chia sẻ mô hình AI giữa nhiều tenant trong khi vẫn đảm bảo riêng tư và an toàn dữ liệu.
Hỗ trợ từ AMD và Canonical:
Bên cạnh NVIDIA, Broadcom mở rộng hệ sinh thái bằng việc hỗ trợ:
• GPU AMD Instinct MI350 Series và phần mềm ROCm Enterprise AI cho các workflow như fine-tuning LLM hoặc inference.
• Hợp tác với Canonical (Ubuntu) để tối ưu trải nghiệm AI doanh nghiệp: Ubuntu Enterprise, chiseled containers, hỗ trợ GPU drivers trong môi trường air-gapped, giúp triển khai AI dễ dàng và bảo mật hơn
Kết luận
Broadcom đang biến VMware Cloud Foundation thành nền tảng private cloud chuẩn mực cho AI hiện đại — kết hợp tính hiệu năng cao, vận hành liền mạch và đa dạng lựa chọn phần cứng/phần mềm. Doanh nghiệp có thể triển khai AI vừa mạnh mẽ vừa an toàn, tất cả nằm dưới hệ sinh thái đám mây cá nhân của mình.
 
Broadcom bổ sung GPU NVIDIA Blackwell vào VMware Cloud

Broadcom bổ sung GPU NVIDIA Blackwell vào VMware Cloud

Ngày đăng Bởi
 
 
 
Lợi ích chính
1. Hiệu suất AI cao cấp
Các GPU Blackwell cho phép xử lý tác vụ AI — từ huấn luyện quy mô lớn đến suy luận (inference) — với tốc độ và khả năng mở rộng vượt trội.
2. Mạng tốc độ cao — thúc đẩy AI phân tán
Thông qua ConnectX-7 và BlueField-3 DPU, hệ thống hỗ trợ chia sẻ dữ liệu và xử lý mô hình AI hiệu quả hơn trong môi trường multi-node, giảm độ trễ và tăng hiệu suất hệ.
3. Giữ nguyên quy trình vận hành quen thuộc
VCF vẫn bảo lưu các tính năng quản lý và ảo hóa cơ bản như vMotion, High Availability (HA), Distributed Resource Scheduler (DRS) và Live Patching. Điều này giúp doanh nghiệp không cần thay đổi quy trình khi triển khai workloads AI
Khả năng AI Native và Hệ sinh thái đám mây
Tích hợp sẵn các dịch vụ AI:
VCF 9.0 gồm VMware Private AI Services như phần mềm mặc định (no-extra-cost), giúp doanh nghiệp triển khai AI ngay trong private cloud bao gồm các thành phần như: GPU Monitoring, Model Store, Model Runtime, Agent Builder, Vector Database, Data Indexing/Retrieval và nhiều tính năng quản lý khác.
Môi trường đa GPU và đa tenant:
• Multi-accelerator Model Runtime: Cho phép doanh nghiệp triển khai AI trên GPU NVIDIA hoặc AMD mà không cần thay đổi mã nguồn AI.
• Multi-tenant Models-as-a-Service: Hỗ trợ chia sẻ mô hình AI giữa nhiều tenant trong khi vẫn đảm bảo riêng tư và an toàn dữ liệu.
Hỗ trợ từ AMD và Canonical:
Bên cạnh NVIDIA, Broadcom mở rộng hệ sinh thái bằng việc hỗ trợ:
• GPU AMD Instinct MI350 Series và phần mềm ROCm Enterprise AI cho các workflow như fine-tuning LLM hoặc inference.
• Hợp tác với Canonical (Ubuntu) để tối ưu trải nghiệm AI doanh nghiệp: Ubuntu Enterprise, chiseled containers, hỗ trợ GPU drivers trong môi trường air-gapped, giúp triển khai AI dễ dàng và bảo mật hơn
Kết luận
Broadcom đang biến VMware Cloud Foundation thành nền tảng private cloud chuẩn mực cho AI hiện đại — kết hợp tính hiệu năng cao, vận hành liền mạch và đa dạng lựa chọn phần cứng/phần mềm. Doanh nghiệp có thể triển khai AI vừa mạnh mẽ vừa an toàn, tất cả nằm dưới hệ sinh thái đám mây cá nhân của mình.
 
Trước Đối thủ AI khác đang rút ngắn khoảng cách với ChatGPT
Tiếp theo Tầm nhìn của Elon Musk về tương lai của xAI
Bình luận
Copyright © 2024 - Fastest, All Rights Reserved.