英偉達和對手互相比“芯”？微軟不甘心吃瓜看戲！

隨著人工智能、深度學習的普及火爆，各類芯片名詞GPU, TPU, DPU, NPU, BPU陸續出現在人們的視野，這些都是什麼鬼？！

CPU：Central Processing Unit, 即中央處理器；

GPU：Graphics Processing Unit, 即圖像處理器；

TPU：Tensor Processing Unit, 即張量處理器；

DPU：Deep learning Processing Unit, 即深度學習處理器；

NPU：Neural network Processing Unit, 即神經網絡處理器;

BPU：Brain Processing Unit, 即大腦處理器。

人工智能旨在為機器賦予人的智能，機器學習是實現人工智能的強有力方法。我們現在所說的AI芯片指的是是專門針對AI算法做了特殊加速設計的芯片。

芯片巨頭Nvidia（英偉達）已經牢牢占據AI芯片榜首，由於CUDA開發平台的普及，英偉達的GPU是目前應用最廣的通用AI硬件計算平台。除了有實力自研芯片的企業（全世界也沒幾家），如果需要做AI相關的工作，必定需要用到Nvidia的芯片。Nvidia的芯片應用普遍，現在所有的AI軟件庫都支持使用CUDA加速，包括穀歌的Tensorflow，Facebook的Caffe，亞馬遜的MXNet等。Intel通過買、買、買奮力的將自己擠到了頭部玩家的位置。英特爾是PC芯片的霸主，但其向AI的轉型相對較晚。但在決定向AI轉型後十分積極，一方麵通過優化自身已有優勢產品，另一方麵還通過一係列的收購增強實力

微軟在最新的Build大會上公布了基於英特爾FPGA的AI方案，而英特爾的FPGA業務正是通過收購Altera獲得的。不過我們也發現，像Google這樣的互聯網企業也突然做起了芯片。

穀歌宣布其Tensor處理單元（TPU） - 一種為搜索，街景，穀歌照片和穀歌翻譯等穀歌服務的神經網絡計算提供支持的定製芯片 - 現已麵向穀歌雲研究人員和開發人員提供測試版平台。

TPU是針對TensorFlow上的機器學習工作負載量身定製的定製應用專用集成電路（ASIC）。 穀歌兩年前推出了TPU，並於去年發布了第二代雲TPU。 雖然第一代TPU僅用於推理，但Cloud TPU適用於推理和機器學習培訓。 Cloud TPU采用四個定製ASIC構建，可提供強大的64 GB高帶寬內存和180 TFLOPS性能。

在向公眾開放TPU之前，穀歌已在內部廣泛實施。 AlphaGo--在中國古代棋盤遊戲Go中擊敗人類冠軍的Google AI傑作 - 使用了48個TPU進行推理。

Cloud TPU為縮短機器學習模型的培訓時間提供了一個很好的解決方案。穀歌大腦團隊負責人傑夫迪恩在Twitter上發布推文說，雲TPU可以在24小時內將ResNet-50模型的準確率提高到75％。

當Cloud TPU宣布時，穀歌為機器學習研究人員提供了1000個免費設備。 Lyft是美國第二大乘車公司，自去年以來一直在其自動駕駛係統中使用雲TPU。該公司的軟件自駕遊級別負責人Anantha Kancherla表示，“自從與Google Cloud TPU合作以來，我們對他們的速度印象非常深刻 - 通常需要幾天時間才能花費數小時。”

總部位於紐約市的對衝基金Two Sigma首席技術官Alfred Spector表示，“我們發現將TensorFlow工作負載轉移到TPU可以大大降低編程新模型的複雜性和培訓所需的時間，從而提高了我們的生產力。”

Google的Cloud TPU目前僅處於測試階段，提供的數量和使用量有限。開發人員可以以6.50美元/雲TPU /小時的價格租用雲TPU，考慮到其出色的計算能力，這似乎是一個合理的價格。

穀歌還發布了幾個模型實現工具，以節省開發人員為雲TPU編寫程序的時間和精力，包括ResNet-50和其他流行的圖像分類模型，機器翻譯和語言建模的變換器，以及用於對象檢測的RetinaNet。

雖然穀歌目前沒有直接向客戶銷售其TPU芯片，但它們的可用性對Nvidia來說是一個挑戰，Nvidia的GPU目前是世界上最常用的AI加速器。甚至穀歌也使用大量的Nvidia GPU來提供加速的雲計算服務。然而，如果研究人員按照預期從GPU切換到TPU，這將減少穀歌對Nvidia的依賴。

去年，穀歌宣稱它的TPU比現代GPU和推理CPU快15到30倍，並且TOPS / Watt測量值提高了30-80倍。在機器學習培訓中，雲TPU的性能更強（180對120 TFLOPS），內存容量（64 GB對16 GB內存）比Nvidia最好的GPU Tesla V100大四倍。盡管將雲TPU稱為AI芯片冠軍還為時尚早，但其可用性的宣布引起了研究人員的興奮，並標誌著穀歌雄心勃勃地進入AI加速器領域的開始。

此外，穀歌還發布了Edge TPU，特定用途 ASIC 芯片，專為在設備上運行 TensorFlow Lite ML 模型而設計。Edge TPU 可以加速設備上的 ML 推理，或與 Google Cloud 配對，創建完整的雲到邊緣 ML 堆棧。針對Edge TPU的新設備是：AIY Edge TPU Dev 開發板和 AIY Edge TPU 加速器，二者皆采用 Google 的 Edge TPU 芯片。

基本上不僅以前的硬件巨頭，包括諸如亞馬遜、Facebook等互聯網巨頭都在涉足人工智能芯片。

作為電商巨頭，亞馬遜在硬件領域的實力則弱很多，因此在AI的競爭中更加傾向於通過收購AI芯片初創公司讓AI芯片更快服務自己的生態。Information爆料稱，亞馬遜已經開始設計定製AI芯片的消息基本坐實。英特爾是All In AI，除了收購，英特爾還投資了一係列的芯片企業，包括Lyncean Technologies、Movellus、SiFive。

微軟則更多通過合作進入AI芯片市場，微軟設備部門全球副總裁Panos Panay在2017年接受CNBC采訪時確認了微軟正在為下一代HoloLens MR頭戴設備研發AI芯片，表示微軟不僅擁有一支專注的IC設計團隊，而且還與芯片製造商和其他合作夥伴共同開發。

目前國內做AI芯片的公司可能有幾十家，重合度不會低。但多數公司有自己的側重點，例如寒武紀主推自己的AI專用處理器，地平線機器人在自動駕駛方麵發展較多，商湯在智能監控方麵積累較好。