當前位置:係統粉 >   IT資訊 >   微軟資訊 >  微軟要“巨硬”,為AI打造專屬Brainwa平台

微軟要“巨硬”,為AI打造專屬Brainwa平台

時間:2017-08-24 來源:互聯網 瀏覽量:

微軟要“巨硬”,為AI打造專屬Brainwa平台(1)

微軟作為軟件公司的形象深入人心,但實際上它從未放棄過讓自己硬起來的機會。

Zune 播放器、Xbox 360遊戲機、Kinect 體感輸入設備、微軟人體工學鍵鼠、Surface 平板、Lumia 手機、Surfacebook、Band 手環等等都是這家軟件公司在硬件方麵的嚐試,可惜成功的並不多。

微軟要“巨硬”,為AI打造專屬Brainwa平台(2)

這次微軟又聯合英特爾開發了一款自家的硬件加速平台 Project Brainwave,目標是帶來高速、實時的雲端 AI。配置上英特爾提供了最新的 14nm 製程 Stratix 10 FPGA芯片,可以在 1 毫秒內完成 39.5 Teraflops 的機器學習運算,特別適合處理異常複雜的AI工作。

由於 Brain Brainwave 項目在基於雲服務的深度學習模式中取得性能和靈活性上的巨大飛躍。設計實時的 AI 係統便有了可能,這意味著采用 Brainwa 平台的 AI 係統能以超低的延遲時間來處理請求。

微軟要“巨硬”,為AI打造專屬Brainwa平台(3)

隨著雲計算的興起,無論是搜索、查詢、傳感器數據流還是人機對話,能夠實時的進行數據處理並做出反饋越來越重要,比如我們每個人都有用過的蘋果 Siri、微軟 Cortant、亞馬遜 Alexa、Google now這些語音助手,其中亞馬遜 Alexa 的交互體驗獲得一致稱讚,就是因為亞馬遜 Alexa 做到了高實時性,在你和它互動時無需等待即可得到回答,尤其是在連續進行問答的時候,實時無延遲的交互操作對於用戶體驗非常重要。

該項係統由三個層構成:

高性能的分布式係統架構;

整合硬件DNN引擎作為微服務;

用於部署低延遲訓練模型的編譯器和運行環境;

微軟要“巨硬”,為AI打造專屬Brainwa平台(4)

首先,Brainwave 項目利用了微軟在過去幾年中部署的大規模 FPGA 架構。將高性能的 FPGA 直接鏈接到我們的數據中心網絡,我們可以將 DPU 作為硬件微服務提供服務,DPU 可以映射到遠程 FPGA 池,並在服務器中循環調用。由於 CPU 不需要處理傳入的請求,因此 FPGA 處理請求可以和網絡傳輸達到同樣的速度,所以該係統可以大幅降低延遲。

微軟要“巨硬”,為AI打造專屬Brainwa平台(5)

其次,Brainwave 項目采用強大的 “軟” DPU,很多公司習慣使用硬件 DPU,雖然可以達到很高的峰值性能,但硬件 DPU 在設計時就必須選擇運算符和數據類型,這就導致了靈活性不足。Brainwave 項目所需的數據類型是在合成時決定的。這種方法結合 FPGA 上的 ASIC 數字信號處理模塊,並對數據進行定製化、窄精度處理,從而實現了不弱於硬件 DPU 的峰值性能。

微軟要“巨硬”,為AI打造專屬Brainwa平台(6)

最後,Brainwave 項目已經支持 Microsoft Cognitive Toolkit 和 Google 的 Tensorflow 深度學習平台,並計劃支持更多平台,同時將在流行框架中常用的訓練模型編譯到 Brainwave 的基礎架構中,來達到更高的性能。

微軟要“巨硬”,為AI打造專屬Brainwa平台(7)

微軟是雲計算領域第一家采用 FPGA 架構部署的服務商,而 Brainwave 平台使得能夠在概念上讓 DNN 的思考方式類似於人腦。

微軟未來將在自家的 Azure 雲端提供 Brainwave 計算平台,在現在這個時代,得 AI 者得用戶,相信有了 Brainwa 平台加成,說不定真的能夠打造出完全實時的AI呢。

我要分享:

最新熱門遊戲

版權信息

Copyright @ 2011 係統粉 版權聲明 最新發布內容 網站導航