Google Cloud用戶現(xiàn)在可以利用NVIDIA Ampere GPU的功能處理其AI工作負(fù)載。

谷歌云中添加的特定GPU是上個(gè)月宣布的NVIDIA A100 Tensor Core。NVIDIA表示，A100“比歷史上任何NVIDIA GPU更快地進(jìn)入云計(jì)算。”

NVIDIA聲稱A100將訓(xùn)練和推理性能提高了20倍。在1,024架A100上，僅需37分鐘即可訓(xùn)練BERT等大型AI模型。

對(duì)于那些享受以萬億浮點(diǎn)(TFLOPS)進(jìn)行測(cè)量的人來說，A100可提供約19.5 TFLOPS的單精度性能和156 TFLOPS的Tensor Float 32工作負(fù)載。

Google Cloud產(chǎn)品管理總監(jiān)Manish Sainani說：

“ Google Cloud客戶經(jīng)常希望我們提供最新的硬件和軟件服務(wù)，以幫助他們推動(dòng)AI和科學(xué)計(jì)算工作負(fù)載的創(chuàng)新。

與我們的NVIDIA T4 GPU一樣，憑借我們新的A2 VM系列，我們很榮幸成為市場(chǎng)上第一批銷售NVIDIA A100 GPU的主要云提供商。我們很高興看到我們的客戶將如何使用這些新功能。”

宣布的時(shí)機(jī)來得更好，除了氣候變化等其他全球性挑戰(zhàn)之外，許多人都希望利用AI來解決COVID-19大流行。

除了AI培訓(xùn)和推理外，客戶還將能夠通過新功能實(shí)現(xiàn)其他功能，包括數(shù)據(jù)分析，科學(xué)計(jì)算，基因組學(xué)，邊緣視頻分析和5G服務(wù)。

新的基于Ampere的數(shù)據(jù)中心GPU現(xiàn)在可以在Google Cloud的Alpha中使用。用戶可以訪問多達(dá)16個(gè)A100 GPU的實(shí)例，這些實(shí)例總共提供640GB的GPU內(nèi)存和1.3TB的系統(tǒng)內(nèi)存。