力壓穀歌/NVIDIA！Intel打破斯坦福深度學習測試記錄

斯坦福大學近日更新了 DAWNBenchmark 的4月份的成績。

DAWNBench是一套用於端到端深度學習訓練和推理的基準套件。它提供了一套通用的深學習評價指標，用於量化訓練時間、訓練成本、推理延遲以及推理成本，並通過不同的優化策略、模型體係結構、軟件框架、雲和硬件來計算推理成本。

Intel的ResNet模型(Caffe框架)，即完全由Xeon處理器構建的亞馬遜EC2平台，推理延遲和推理成本上都拿下第一。

具體來說， Intel平台處理10000張圖片的延遲是9.96ms，成本0.02美元 。成本方麵，最接近Intel的是NVIDIA基於MXNet框架的K80顯卡+4 CPU平台，0.07美元、延遲29.4ms。

測試中，Intel Xeon在計算方麵的主要對手，一是穀歌自研的TPU v2（張量處理器），二是NVIDIA的GPU陣列（包括Tesl V100）。

當然，圖形識別（93%以上精度）的總訓練時間上，基於穀歌TPU v2、TensorFlow學習框架的ResNet50模型高居第一，僅需30分鍾，比第一代提升了477倍。

這套測試我們可以這樣理解，不同硬件平台相當於考生，大家同時開始背一套考試題和答案，名叫穀歌的考生最先背會、Intel則是考場上作答速度和準度最高的。

考慮到Intel正在全力研發圖形處理器，深度學習方麵對NVIDIA和穀歌還有一場惡戰。