阿里首款AI芯片含光800发布
2019-11-16
中国信息化周报 2019年37期
在2019年杭州云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片含光800,该芯片是一款云端AI芯片,也是全球最高性能的AI推理芯片。含光800主要应用于视觉场景,已经在阿里巴巴集团内多个场景大规模应用,其它企业可以通过阿里云获得含光NPU的算力。
含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积、矩阵乘、向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效都推向极致。
根据阿里云展示的杭州城市大脑的业务测试,1颗含光800的算力相当于10颗GPU。实际应用上,含光800目前已开始应用在阿里巴巴内部核心业务中。根据云栖大会的现场演示,在城市大脑中实时处理杭州主城区交通视频,需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms。拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。
未来,含光800将通过阿里云对外输出AI算力。张剑锋宣布,基于含光800的AI云服务从9月25日起正式上线,而且相比传统GPU算力,起性价比将会有100%的提升。
而随着玄铁910、无剑SoC平台、含光800的发布,张劍锋表示,平头哥端云一体全栈产品系列初步成型,已经涵盖处理器IP、一站式芯片设计平台和AI芯片,实现了芯片设计链路的全覆盖。