斯坦福大学近日更新了DAWNBenchmark的4月份的成绩。
DAWNBench是一套用于端到端深度学习训练和推理的基准套件。它提供了一套通用的深学习评价指标，用于量化训练时间、训练成本、推理延迟以及推理成本，并通过不同的优化策略、模型体系结构、软件框架、云和硬件来计算推理成本。
Intel的ResNet模型(Caffe框架)，即完全由Xeon处理器构建的亚马逊EC2平台，推理延迟和推理成本上都拿下第一。
具体来说，Intel平台处理10000张图片的延迟是9.96ms，成本0.02美元。成本方面，最接近Intel的是NVIDIA基于MXNet框架的K80显卡+4 CPU平台，0.07美元、延迟29.4ms。
测试中，Intel Xeon在计算方面的主要对手，一是谷歌自研的TPU v2(张量处理器)，二是NVIDIA的GPU阵列(包括Tesl V100)。
当然，图形识别(93%以上精度)的总训练时间上，基于谷歌TPU v2、TensorFlow学习框架的ResNet50模型高居第一，仅需30分钟，比第一代提升了477倍。
这套测试我们可以这样理解，不同硬件平台相当于考生，大家同时开始背一套考试题和答案，名叫谷歌的考生最先背会、Intel则是考场上作答速度和准度最高的。
考虑到Intel正在全力研发图形处理器，深度学习方面对NVIDIA和谷歌还有一场恶战。
