您现在的位置是：主页 > 品牌 > 阿里巴巴 >
阿里含光800芯片荣登AI测试排行榜首，超越谷歌与英伟达！
发布时间：2019年11月07日 20:00:35 阿里巴巴 人已围观
简介11月7日，MLPerf基准联盟发布了首轮AI推理基准测试结果，阿里巴巴平头哥的AI芯片含光800在Resnet50基准测试中表现优异，取得单芯片性能第一的成绩。该测试包含五个基准，针对不同场景...
11月7日，MLPerf基准联盟发布了首轮AI推理基准测试的结果，阿里巴巴平头哥的AI芯片含光800在Resnet50的基准测试中获得了单芯片性能的领先地位。
MLPerf推理基准测试分为五个不同的基准，每个基准又对应四种应用场景，主要针对图像分类、物体检测和机器翻译等常见的机器学习任务。参与测试的公司可以选择提交任意基准及其相关的结果。
含光800参与了图像分类任务的Resnet50 v1.5基准测试，在离线（Offline mode）、服务（Server mode）、多路（Multi stream mode）和单路模式（Single stream mode）四个场景下均取得了单芯片的最佳表现。
离线模式的测试评估的是芯片推理的最大吞吐量，最能体现芯片在计算、存储和通信等方面的基本能力。含光800的表现达到了69306.60 IPS，单芯片的性能是谷歌TPU v3的8.5倍，Nvidia T4的12倍。
MLPerf是行业内首个对机器学习软硬件性能进行评估的通用基准，由图灵奖得主David Patterson与谷歌及几所著名高校于2018年共同发起。目前，MLPerf基准联盟的成员已超过50家，包括谷歌、微软、Facebook及阿里巴巴等科技巨头，还有斯坦福、哈佛、多伦多大学等学术机构。
在AI训练基准v0.5、v0.6推出之后，MLPerf在今年6月发布了AI推理基准v0.5。本轮推理基准测试参与的公司达14家，包括谷歌（TPUv3）、英伟达（T4、RTX、Xavier）、英特尔（CLX 9282、NNPI-1000）、Habana（Goya）等，这些公司展示了目前AI推理系统的最高技术水平。
含光800是阿里巴巴在今年9月推出的第一款正式流片的AI芯片，采用台积电12nm工艺制造，其强大性能来源于软硬件的协同设计：使用平头哥自行研发的架构，有效减少内存访问延迟；结合达摩院的创新算法，深入优化了CNN及视觉相关算法，从而显著提高了视觉计算的效率。
该芯片主要应用于云端的视觉场景，目前已经在阿里巴巴集团的多个领域得到大规模应用，如视频图像识别、分类、搜索以及城市大脑等，未来还将扩展至医疗影像和自动驾驶等领域。未来，含光800的算力还将通过阿里云进行对外输出。
