向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

阿里含光800AI芯片经过双十一2684亿的检测,明年将大规模应用

2019-11-12
导语:一、含光800发布9月25日云栖大会,阿里巴巴旗下的半导体公司平头哥发布AI推理芯片含光800,这也是互联网公司发布的首个AI推理芯片。该款芯片算力相当于10个GPU,处理速度峰值将达

一、含光800发布

2019年9月25日云栖大会上,阿里巴巴旗下的半导体公司平头哥发布AI推理芯片含光800,这也是互联网公司发布的首个AI推理芯片。

该款芯片算力相当于10个GPU,处理速度峰值将达到78563IPS,每秒可处理78000张图片,同时,市面上主流的AI芯片推理性能为500IPS。

该芯片创下两项世界纪录:推理性能78563IPS,业界第一,能效比500IPS/W,业界第一,是目前全球最强AI推理芯片。

目前,含光800正在应用于城市大脑、拍立淘等业务,基于该芯片的AI云服务也已正式上线,将为各行各业提供更强大的AI算力。

含光800发布会.jpg

二、性能第一

北京时间11月7日,MLPerf基准联盟公布首轮AI(人工智能)推理基准测试结果,阿里巴巴平头哥的AI芯片含光800在Resnet50基准测试中获得单芯片性能第一。

MLPerf 推理基准测试设有五个基准,每个对应四种场景,重点面向图像分类、对象检测和机器翻译等常见机器学习任务。测试者可以选择提交任何基准及相应场景的结果。

据阿里巴巴方面披露的信息,含光800参加了适用于图像分类任务的Resnet50 v1.5基准测试,在离线模式(Offline mode)、服务模式(Server mode)、多路模式(Multi stream mode)和单路模式(Single stream mode)四个场景都取得了单芯片第一的成绩。

离线模式测试的是芯片推理的最大吞吐量,最能考验芯片的计算、存储、通信等基本功。据阿里介绍,含光800的成绩为69306.60 IPS,单芯片性能是谷歌TPU v3的8.5倍、Nvidia T4的12倍。

MLPerf是业内首套衡量机器学习软硬件性能的通用基准,由图灵奖得主David Patterson联合谷歌和几所著名高校于2018年发起。MLPerf基准联盟现有50多家成员,包括谷歌、微软、Facebook、阿里巴巴等企业和斯坦福、哈佛、多伦多大学等高校。

继AI训练基准v0.5、v0.6之后,MLPerf在今年6月推出AI推理基准v0.5。参加本轮推理基准测试并提交结果的公司共14家,谷歌(TPUv3)、英伟达(T4、RTX、Xavier)、英特尔(CLX 9282、NNPI-1000)、Habana(Goya)等参与竞逐。

今年9月问世的含光800,是阿里巴巴第一款正式流片的AI芯片,基于台积电12nm工艺生产,其性能突破得益于软硬件的协同设计:采用平头哥自研架构,有效降低内存访问延时;集成达摩院的创新算法,深度优化CNN及视觉类算法,大幅提升视觉计算效率。

含光800主要用于云端视觉场景,现已大规模应用于阿里巴巴集团内多个场景,如视频图像识别/分类/搜索、城市大脑等,未来还可应用于医疗影像、自动驾驶等领域。今后,含光800的算力将通过阿里云对外输出。

三、双十一小试锋芒,明年大规模应用

1111.jpg

2019年的双十一,阿里一天之内交易额达到了2684亿,举世瞩目!其中含光800也在其中小试牛刀,初露锋芒。11月11日晚,阿里巴巴集团CTO张建锋宣布重磅消息,明年双11将大规模应用平头哥自研的含光AI芯片。

达摩院研发的AI技术已应用于天猫双11的各个场景。未来,这些人工智能应用将会越来越多跑在阿里自研的芯片上。

 

本文为机器人网原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。

您可能感兴趣的文章

相关推荐

近期热点
广告
广告
广告

可能感兴趣的话题

广告
推荐使用浏览器内置分享