數(shù)以萬計的 NVIDIA GPU、NVIDIA Quantum-2 InfiniBand 以及全棧式 NVIDIA AI 軟件即將登陸 Azure;NVIDIA、微軟和多家全球企業(yè)將使用該平臺進(jìn)行快速、經(jīng)濟(jì)的 AI 開發(fā)和部署

NVIDIA 于昨日宣布與微軟展開一項為期多年的合作,雙方將共同打造全球最強(qiáng)大的 AI 超級計算機(jī)。微軟 Azure 的先進(jìn)超級計算基礎(chǔ)設(shè)施,結(jié)合 NVIDIA GPU、網(wǎng)絡(luò)和全棧式 AI 軟件為此超級計算機(jī)賦能,以幫助企業(yè)訓(xùn)練、部署和擴(kuò)展包括大型、先進(jìn)模型在內(nèi)的 AI。
Azure 的云端 AI 超級計算機(jī)包括強(qiáng)大、可擴(kuò)展 ND 與 NC 系列虛擬機(jī),其專為 AI 分布式訓(xùn)練和推理而優(yōu)化。Azure是首個采用 NVIDIA 先進(jìn) AI 堆棧的公有云,在其平臺上添加了數(shù)以萬計的 NVIDIA A100 和 H100 GPU、NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA AI Enterprise 軟件套件。
此次合作中,NVIDIA 將使用 Azure 的可擴(kuò)展虛擬機(jī)實例來研究并進(jìn)一步加快生成式 AI 的發(fā)展。生成式 AI 是正在迅速興起的 AI 領(lǐng)域,其中像 Megatron Turing NLG 530B 這樣的基礎(chǔ)模型是無監(jiān)督、自學(xué)習(xí)算法的基準(zhǔn),這些算法被用來創(chuàng)造新的文本、代碼、數(shù)字圖像、視頻或音頻。
兩家公司還將合作優(yōu)化微軟的 DeepSpeed 深度學(xué)習(xí)優(yōu)化軟件。NVIDIA 的全棧式 AI 工作流和軟件開發(fā)工具包皆專為 Azure 進(jìn)行了優(yōu)化,并將提供給 Azure 企業(yè)客戶。
NVIDIA 企業(yè)計算副總裁 Manuvir Das 表示:“AI 技術(shù)正在加速發(fā)展,行業(yè)的采用速度也在同時加快?;A(chǔ)模型上的突破引發(fā)了研究浪潮、培育了新的初創(chuàng)企業(yè)并啟動了新的企業(yè)應(yīng)用程序。我們將與微軟一同為研究者和企業(yè)提供最先進(jìn)的 AI 基礎(chǔ)設(shè)施和軟件,使他們能夠充分利用 AI 的變革性力量?!?/p>
微軟云與 AI 事業(yè)部執(zhí)行副總裁 Scott Guthrie 表示:“AI 正在掀起整個企業(yè)和工業(yè)計算的下一輪自動化浪潮,幫助企業(yè)機(jī)構(gòu)在變幻莫測的經(jīng)濟(jì)環(huán)境中得以事半功倍。我們與 NVIDIA 合作,打造全球可擴(kuò)展性最強(qiáng)的超級計算機(jī)平臺,為微軟 Azure 上的每家企業(yè)提供最先進(jìn)的 AI 功能?!?/p>
通過 Azure 上的 NVIDIA 計算與
Quantum-2 InfiniBand實現(xiàn)可擴(kuò)展峰值性能
微軟 Azure 的 AI 優(yōu)化虛擬機(jī)實例采用了 NVIDIA 最先進(jìn)的數(shù)據(jù)中心 GPU,并且是首個搭載 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)的公有云實例。客戶可以在單個集群中部署數(shù)千 GPU 來訓(xùn)練最具規(guī)模的大型語言模型,大規(guī)模地構(gòu)建最復(fù)雜的推薦系統(tǒng)以及實現(xiàn)生成式 AI。
目前的 Azure 實例采用了 NVIDIA Quantum 200Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA A100 GPU。未來的實例將集成 NVIDIA Quantum-2 400Gb/s InfiniBand 網(wǎng)絡(luò)和 NVIDIA H100 GPU。結(jié)合 Azure 先進(jìn)的計算云基礎(chǔ)設(shè)施、網(wǎng)絡(luò)和存儲,這些通過 AI 優(yōu)化的產(chǎn)品將為任何規(guī)模的 AI 訓(xùn)練和深度學(xué)習(xí)推理工作負(fù)載提供可擴(kuò)展的峰值性能。
加速 AI 的開發(fā)和部署
另外,該平臺將支持廣泛的 AI 應(yīng)用和服務(wù),包括微軟 DeepSpeed 和 NVIDIA AI Enterprise 軟件套件。
微軟 DeepSpeed 將使用 NVIDIA H100 Transformer 引擎來加速基于 Transformer 的模型,這些模型可用于大型語言模型、生成式 AI 和編寫計算機(jī)代碼等應(yīng)用。該技術(shù)將 8 位浮點精度能力應(yīng)用于 DeepSpeed,大大加快了 Transformer 的 AI 計算速度,使其吞吐量達(dá)到 16 位運(yùn)算的兩倍。
被全球企業(yè)廣泛采用的 NVIDIA AI 平臺軟件 NVIDIA AI Enterprise 已通過認(rèn)證并支持搭載 NVIDIA A100 GPU 的微軟 Azure 實例。未來的軟件版本將增加對搭載 NVIDIA H100 GPU 的 Azure 實例的支持。
NVIDIA AI Enterprise 包括用于語音 AI 的 NVIDIA Riva 以及 NVIDIA Morpheus 網(wǎng)絡(luò)安全應(yīng)用框架,可簡化從數(shù)據(jù)處理和 AI 模型訓(xùn)練到仿真和大規(guī)模部署等 AI 工作流中的每一步。
原文標(biāo)題:NVIDIA 攜手微軟打造大規(guī)模云端 AI 計算機(jī)
文章出處:【微信公眾號:NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3950瀏覽量
93725
原文標(biāo)題:NVIDIA 攜手微軟打造大規(guī)模云端 AI 計算機(jī)
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
NVIDIA技術(shù)賦能歐洲最快超級計算機(jī)JUPITER
NVIDIA GTC2025 亮點 NVIDIA推出 DGX Spark個人AI計算機(jī)

NVIDIA 宣布推出 DGX Spark 個人 AI 計算機(jī)

NVIDIA推出個人AI超級計算機(jī)Project DIGITS
聯(lián)發(fā)科與NVIDIA合作 為NVIDIA 個人AI超級計算機(jī)設(shè)計NVIDIA GB10超級芯片
云端超級計算機(jī)使用教程
NVIDIA與谷歌量子AI部門達(dá)成合作
NVIDIA助力xAI打造全球最大AI超級計算機(jī)
NVIDIA Colossus超級計算機(jī)集群突破10萬顆Hopper GPU
NVIDIA 以太網(wǎng)加速 xAI 構(gòu)建的全球最大 AI 超級計算機(jī)

評論