基于芯片架構(gòu)和高帶寬內(nèi)存的深度學(xué)習(xí)加速器正在興起，以實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法的近實(shí)時處理。內(nèi)存芯片專家美光科技公司認(rèn)為，與更高內(nèi)存密度相關(guān)聯(lián)的硬件加速器是加速“內(nèi)存綁定” AI應(yīng)用程序的最佳方法。

美光公司(納斯達(dá)克股票代碼：MU)本周宣布與德國汽車供應(yīng)商美國大陸集團(tuán)(OTCMKTS：CTTAY)建立合作伙伴關(guān)系，以使存儲器制造商的深度學(xué)習(xí)加速器適應(yīng)機(jī)器學(xué)習(xí)汽車應(yīng)用。合作伙伴表示，他們將專注于車輛自動化系統(tǒng)。

美光的深度學(xué)習(xí)加速器還具有用于其他邊緣部署的機(jī)器學(xué)習(xí)應(yīng)用程序，這些邊緣部署迄今為止用于本地?cái)?shù)據(jù)處理的內(nèi)存帶寬未能跟上微處理器核心增長的步伐。

美光的方法結(jié)合了硬件和軟件，以加速和減少由高帶寬存儲器支持的FPGA的功耗。該軟件包還包括一個抽象基礎(chǔ)硬件的機(jī)器學(xué)習(xí)軟件開發(fā)套件。該方案無需進(jìn)一步的FPGA編程。

Micron加速器在Xilinx Virtex Ultrascale + FPGA上運(yùn)行，可容納高達(dá)512 Gb的DDR4內(nèi)存，而內(nèi)存帶寬高達(dá)68 Gb / s。預(yù)加載的 推理引擎 支持多種神經(jīng)網(wǎng)絡(luò)類型，而FPGA可以用Python和C ++編程。

同時，該軟件套件支持用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的一批框架，包括Caffe 2，PyTorch和TensorFlow。

“與美光公司合作，為支持多個網(wǎng)絡(luò)和框架的邊緣推理構(gòu)建可擴(kuò)展且靈活的解決方案，將使我們能夠在我們的平臺上高效部署機(jī)器學(xué)習(xí)，”美國大陸航空創(chuàng)新中心硅谷副總裁Dirk Remde說。

“與美國大陸航空合作的主要目標(biāo)之一是創(chuàng)建一種敏捷的邊緣推理解決方案，該解決方案利用機(jī)器學(xué)習(xí)并提供汽車行業(yè)所需的易用性，可伸縮性，低功耗和高性能，”美光公司副總裁Steve Pawlowski補(bǔ)充說。高級計(jì)算解決方案總裁。

美光(Micron)是大量專用AI硬件中的最新產(chǎn)品，其中包括Google的Tensor處理器，英偉達(dá)(NASDAQ：NVDA)的GPU加速器以及AMD(NASDAQ：AMD)和Intel(NASDAQ：INTC)的深度學(xué)習(xí)引擎。美光的轉(zhuǎn)折涉及將推理引擎嵌入加速器中，并將其綁定到更大的內(nèi)存管道中。

谷歌(納斯達(dá)克股票代碼：GOOGL)和美光公司還一直在與歐洲核研究組織CERN的科學(xué)家合作，將其框架應(yīng)用于高能物理問題。CERN研究人員正在測試Micron的 深度學(xué)習(xí)加速器 ，這是該實(shí)驗(yàn)室大型強(qiáng)子對撞機(jī)實(shí)驗(yàn)的兩個項(xiàng)目的一部分。內(nèi)存增強(qiáng)型神經(jīng)網(wǎng)絡(luò)方法正在用于測試數(shù)據(jù)采集系統(tǒng)。

美光公司的馬克·赫爾(Mark Hur)在最近的博客文章中指出：“只需更改幾行代碼，研究人員就可以像瞄準(zhǔn)GPU那樣瞄準(zhǔn)Micron加速器 。”