生成式 AI
模型微調、推論與企業內部 AI 服務。
Accelerated compute · Gen12
把 AI 算力帶進
企業資料中心
從生成式 AI 訓練與推論，到 HPC、資料密集型運算與 GPU 加速，依照模型、記憶體頻寬、互連與散熱需求，選擇合適的平台。
Workload first
依照運算需求選平台
不同 AI 與 HPC 任務對 GPU 數量、記憶體架構、互連和散熱的要求不同；先定義工作負載，再確認組態。
AI Factory
建置私有 AI 基礎架構與模型服務環境。
HPC 與科學運算
高效能運算、複雜模擬及資料密集型任務。
視覺與資料分析
GPU 加速的圖形、分析與即時處理工作。
AI & high performance platforms
Gen12 AI 與 HPC 產品線
以下內容摘錄自產品簡報，GPU、處理器、記憶體與散熱配置依機型及選配而異。
4U · 2P · GPU 加速DL380a
DL380a Gen12
面向大規模 GPU 加速，支援生成式 AI 微調與推論工作負載。
最多 16 張單寬 GPU
最多 10 張雙寬 GPU
最高 4TBDDR5 記憶體
iLO 7內建伺服器管理
- 簡報列出的 GPU 選項包括 NVIDIA H200 NVL、H100 NVL、RTX PRO 6000、L40S、L4。
- 支援直接液冷選項；實際可支援 GPU 型號與數量依配置確認。
適合：GPU 密集型 AI 訓練、微調與推論
2U · NVIDIA GH200 NVL2DL384
DL384 Gen12
以 NVIDIA GH200 NVL2 平台支援高效能 AI 與記憶體密集型工作負載。
288GBGH200 NVL2 HBM3e
最高 8 組EDSFF Gen5 NVMe
最高 4 個PCIe Gen5 擴充槽
空冷依產品簡報規格
- 支援企業資料中心部署 LLM 微調與推論。
- 適用 HPC、企業與雲端環境中的混合或記憶體密集型工作負載。
適合：需要 GPU 與 CPU 高速協同的 AI 應用
2U · NVIDIA Vera CPUDL394
DL394 Gen12
針對 Agentic AI 控制與協調工作負載設計，採用 NVIDIA Vera 處理器平台。
2 × 88 核心NVIDIA Vera CPU
最高 1.5TBSOCAMM 記憶體容量
最高 8 組EDSFF 儲存
iLO 7系統管理
- 面向企業 AI Factory、即時分析與高安全需求場景。
- 簡報提及 NVIDIA RTX PRO 6000 Blackwell Server Edition 支援；GPU 數量與機箱選項需依實際 SKU 確認。
適合：AI 服務協調、Agentic AI 與控制平面運算
1U · HPCXD230
XD230
為高效能運算設計，著重記憶體頻寬、叢集管理與機架密度。
雙路Intel Xeon 6 P-core
最高 128 核心處理器規格摘要
最高 8,800 MT/sMRDIMM 記憶體速度
3 × PCIe 5.0x16 擴充槽
- 支援 HPE Performance Cluster Manager 與 HPE iLO。
- 可選直接液冷，並提供 HPE Slingshot、InfiniBand 等高速互連選項。
適合：HPC 叢集、科學運算與資料密集型處理
6U 空冷 / 5U DLCXD685
XD685
高密度多 GPU 平台，支援大型 AI 訓練與加速運算。依散熱選項與組態提供不同 GPU 支援。
適合：大型 AI 模型訓練與高密度 GPU 運算
最多 8 張GPU 配置
雙路第 5 代 AMD EPYC
24 DIMMDDR5 6400 RDIMM
8 組E3.S 熱插拔 NVMe
- 簡報列出 NVIDIA H200、B200、B300 與 AMD Instinct MI355X 等 GPU 配置，支援狀態依空冷或 DLC 選項而異。
- 可採直接液冷（DLC）配置；機櫃空間與電力規劃須依實際系統組態評估。
規格摘錄自所提供的 HPE ProLiant Compute Gen12 簡報。GPU 相容性、數量、散熱、功耗、作業系統與上市供貨狀況，請以 HPE 最新 QuickSpecs 與實際料號配置為準。
Plan the infrastructure
AI 伺服器也要一起規劃機房條件
高密度 GPU 組態會影響電力、散熱、機櫃與網路規劃，建議在確認伺服器前同步盤點資料中心條件。
散熱與機櫃
確認空冷或直接液冷方案、機櫃深度與承重、冷卻水路，以及設備維護動線。
重點：散熱設計需配合完整 GPU 組態。
電力與互連
依 GPU 數量估算供電容量、冗餘與佈線，並確認伺服器間高速網路與儲存吞吐需求。
重點：以實際料號和工作負載做容量規劃。
先確認模型與工作負載，再定義硬體組態
準備模型規模、精度格式、同時服務量、資料集大小與機房條件，可加快平台評估。
