Google Cloud AI Platform是一個端對端的機器學(xué)習(xí)平臺即服務(wù)(ML PaaS)，面向數(shù)據(jù)科學(xué)家，ML開發(fā)人員和AI工程師。Cloud AI Platform提供了解決機器學(xué)習(xí)模型生命周期的服務(wù)。從數(shù)據(jù)準備到培訓(xùn)再到模型服務(wù)，該平臺具有開發(fā)和部署復(fù)雜的機器學(xué)習(xí)模型的所有基本構(gòu)件。

運行定制容器以在Cloud AI Platform上訓(xùn)練模型的支持已普遍可用。該功能使用戶可以將其自己的Docker容器映像與任何預(yù)安裝的ML框架或算法一起在AI平臺上運行。

自定義容器支持消除了云中大規(guī)模培訓(xùn)模型所涉及的約束。客戶現(xiàn)在可以使用其培訓(xùn)計劃中使用的特定版本的語言，框架和工具來打包自定義容器映像。這樣就無需選擇平臺期望用來訓(xùn)練模型的特定版本的工具。通過自定義容器，數(shù)據(jù)科學(xué)家和ML開發(fā)人員可以將自己的框架和庫帶入AI平臺，即使它們本身不受平臺支持。開發(fā)人員可以在將其部署到云之前在本地構(gòu)建和測試容器映像。DevOps團隊可以將AI平臺與現(xiàn)有CI / CD管道集成在一起，以自動化部署過程。為了簡化為訓(xùn)練ML模型選擇正確的硬件配置的過程，Google引入了擴展層-一組基于一類GCE VM的預(yù)定義群集規(guī)范。每個等級級別都是根據(jù)其對某些類型工作的適用性來定義的。

客戶還可以選擇一個自定義層，在其中可以提及主服務(wù)器，工作服務(wù)器和參數(shù)服務(wù)器的計算機配置。集群中的這些服務(wù)器有助于分布式訓(xùn)練，以加快訓(xùn)練大型數(shù)據(jù)集的速度。

這兩種功能-自定義容器和用于培訓(xùn)的機器類型-現(xiàn)在通常都可以使用。

模型部署和推理

托管一個響應(yīng)預(yù)測的經(jīng)過全面訓(xùn)練的模型的過程稱為推理。

客戶可以在Google Cloud AI平臺中托管經(jīng)過訓(xùn)練的機器學(xué)習(xí)模型，并使用AI平臺預(yù)測服務(wù)來推斷新數(shù)據(jù)的目標值。Cloud AI Platform Prediction管理云中的計算資源以運行ML模型。使用ML模型的開發(fā)人員可以從部署的模型中請求預(yù)測，并作為響應(yīng)獲得預(yù)測的目標值。

借助Cloud AI Platform Prediction服務(wù)，客戶可以從一組Google Compute Engine計算機類型中進行選擇，以運行ML模型?？蛻艨梢蕴砑覩PU，例如NVIDIA T4或TPU。加快推理過程。作為托管平臺，該服務(wù)無需人工干預(yù)即可處理預(yù)配，擴展和服務(wù)。以前，在線預(yù)測服務(wù)僅支持從一種或四種vCPU計算機類型中進行選擇。

使用AI平臺的GCP客戶現(xiàn)在可以將預(yù)測請求和響應(yīng)直接記錄到BigQuery，以分析和檢測偏斜和異常值，或確定是否需要重新訓(xùn)練以提高模型的準確性。

Cloud AI Platform Prediction由Google Kubernetes Engine提供支持，可提供所需的規(guī)模。

在Cloud NEXT活動中將ML PaaS重大更改為AI平臺后，Google一直在不斷增強服務(wù)。自定義容器和基于GKE的預(yù)測服務(wù)等功能的普遍可用性使該平臺具有靈活性和可擴展性，可以在云中訓(xùn)練和部署機器學(xué)習(xí)模型。