化工儀器網(wǎng)>產(chǎn)品展廳>行業(yè)專用儀器及設(shè)備>其它行業(yè)專用儀器>其它專用儀器>NVIDIA H20 NVIDIA英偉達(dá)H20人工智能服務(wù)器GPU算力租賃
NVIDIA H20 NVIDIA英偉達(dá)H20人工智能服務(wù)器GPU算力租賃
- 公司名稱 上海智算行云科技有限公司
- 品牌 其他品牌
- 型號(hào) NVIDIA H20
- 產(chǎn)地
- 廠商性質(zhì) 其他
- 更新時(shí)間 2024/10/16 10:12:22
- 訪問次數(shù) 561
聯(lián)系我們時(shí)請(qǐng)說明是化工儀器網(wǎng)上看到的信息，謝謝!
| 產(chǎn)地類別 | 國(guó)產(chǎn) | 應(yīng)用領(lǐng)域 | 生物產(chǎn)業(yè),電子/電池,道路/軌道/船舶,制藥/生物制藥,汽車及零部件 |
|---|
NVIDIA英偉達(dá)H20人工智能服務(wù)器專為 AI 和 HPC 而打造。
AI、復(fù)雜模擬和海量數(shù)據(jù)集需要多個(gè)具有極快互連速度的 GPU 和加速的軟件堆棧。NVIDIA HGX™ AI 超級(jí)計(jì)算平臺(tái)整合了 NVIDIA GPU、 NVLink®、NVIDIA 網(wǎng)絡(luò)以及全面優(yōu)化的 AI 和高性能計(jì)算 (HPC) 軟件堆棧的全部功能，可提供的應(yīng)用性能并加快獲得見解的速度。
NVIDIA英偉達(dá)H20人工智能服務(wù)器GPU算力租賃配置參數(shù)：
框架 | 6U 機(jī)架式服務(wù)器 |
處理器 | 2 顆至強(qiáng) Platinum 8480 （可擴(kuò)展AMD第四代EYPC處理器） |
內(nèi)存 | DDR5 4800 64G內(nèi)存*32 |
GPU | NVIDIA HGX H20 GPU 模組 |
系統(tǒng)硬盤 | 960G SATA SSD *2 |
數(shù)據(jù)硬盤 | 3.84T NVme U.2 SSD*4 9560 8i raid卡*1 |
PICE 插槽 | 支持12個(gè)PCIe 5.0插槽； 支持Bluefield-3、CX7以及多種類型智能網(wǎng)卡； |
端到端加速計(jì)算平臺(tái)
NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術(shù)相集成，推動(dòng)數(shù)據(jù)中心邁向加速計(jì)算和生成式 AI 的新時(shí)代。HGX 系統(tǒng)是加速縱向擴(kuò)展平臺(tái)，專為要求嚴(yán)苛的生成式 AI、數(shù)據(jù)分析和 HPC 工作負(fù)載而設(shè)計(jì)。
NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術(shù)相結(jié)合，為每個(gè)數(shù)據(jù)中心提供出色的性能、可擴(kuò)展性和安全性。它配置了多達(dá) 8 個(gè) GPU，為 AI 和 HPC 領(lǐng)域打造出性能強(qiáng)勁的加速垂直擴(kuò)展式服務(wù)器平臺(tái)。HGX H20提供高級(jí)網(wǎng)絡(luò)選項(xiàng)，憑借 NVIDIA Quantum-2 InfiniBand 和 Spectrum™-X 以太網(wǎng)實(shí)現(xiàn)出色的 AI 性能
HGX H20還集成了 NVIDIA數(shù)據(jù)處理器 (DPU)，有助于在超大規(guī)模 AI 云中實(shí)現(xiàn)云網(wǎng)絡(luò)、可組合存儲(chǔ)、零信任安全性和 GPU 計(jì)算彈性。
深度學(xué)習(xí)推理：性能和多功能性，適用于新一代大型語(yǔ)言模型的實(shí)時(shí)推理。
深度學(xué)習(xí)訓(xùn)練：性能和可擴(kuò)展性；
訓(xùn)練性能進(jìn)一步提升第二代 Transformer 引擎采用 8 位浮點(diǎn) (FP8) 和新精度，可使 GPT-MoE-1.8T 等大型語(yǔ)言模型的訓(xùn)練速度顯著提升 3 倍。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網(wǎng)絡(luò)和 NVIDIA Magnum IO™ 軟件。這些因素將共同確保企業(yè)和廣泛的 GPU 計(jì)算集群具備高效的可擴(kuò)展性。
NVIDIA英偉達(dá)H20人工智能服務(wù)器借助 NVIDIA 網(wǎng)絡(luò)來(lái)加速 HGX；
數(shù)據(jù)中心是新的計(jì)算單元，而網(wǎng)絡(luò)在大幅提升整個(gè)數(shù)據(jù)中心的應(yīng)用性能方面發(fā)揮著的作用。與 NVIDIA Quantum InfiniBand 搭配使用時(shí)，HGX 可提供的性能和效率，確保計(jì)算資源得到充分利用。
采購(gòu)中心
化工儀器網(wǎng)