神经形态计算芯片产业化发展前景分析
2021-10-18刘星李星宇
刘星 李星宇
摘 要:基于人工智能、大数据场景下对芯片计算速度和能耗效率的需求,梳理影响神经形态计算芯片产业化发展的关键技术评价指标,简要分析产业化应用现状及国内外典型机构和产品,并对神经形态计 算芯片的产业化发展前景做出研判。
关键词:神经形态计算;类脑芯片;产业化
一、神经形态计算芯片产业化需求背景
随着物联网、人工智能和大数据等信息技术 的高速发展,神经形态计算芯片已经成为一种重 要的人工智能芯片架构方式。基于传统“冯·诺 依曼架构”的芯片,虽然在精准数值计算上拥有 出色能力,但是其计算单元与存储单元分离的架 构,限制了人工智能、大数据场景下对计算速度 和能耗效率的需求。相比之下,神經形态计算芯 片的突出特点,在于处理感知、认知和决策等复 杂问题时,拥有更高的算力密度和能耗效率,因 此,更加适用于处理复杂的人工智能算法,以满 足物联网、边缘计算等产业发展背景下对新型芯 片架构和器件技术的要求 [1]。
关于神经形态计算芯片的精确定义及范围划 分,目前学术界、产业界尚未达成一致。综合考 虑相关文献和社会认知度,本文采用“神经形态 计算芯片”的说法(亦有称为“神经形态芯片”“脑 启发式芯片”等),并将神经形态计算芯片定义为 “通过模仿生物大脑结构和部分工作机制进行设计 的芯片”。
神经形态计算芯片通过在硬件层面构造可以 相互通信的人造神经元,以更快的速度、更高的 复杂度和更高的能源效率集成芯片的内存、计算 和通信功能。目前,神经形态计算芯片可以粗略 地分为基于人工 / 深度神经网络(ANN/DNN)的 芯片和基于脉冲神经网络(SNN)的芯片 [1]。基于 人工 / 深度神经网络的芯片,神经元状态被编码 为数字位、时钟周期或电压水平,信息被以规律 的时间间隔传输;基于脉冲神经网络的芯片,信 息则被编码为脉冲时间(Spike timing),芯片使用 “尖脉冲”(Spike)并行地进行通信,就像人类大 脑真正的神经网络一样。
二、影响神经形态计算芯片产业化发展的 技术评价指标
近年来,神经形态计算芯片的快速发展,离 不开超大规模集成电路和脑科学领域的突破。从 20 世纪 80 年代,超大规模集成电路主要研制者 之一 Carver Mead 尝试利用大规模集成电路实现神 经网络的计算功能 [2](该项工作获得了美国太空总署 NASA 与国家卫生研究院 NIH 的重视),到 2008 年,惠普研究人员研制出世界首个纳米尺寸 忆阻器(Memristor),神经形态计算芯片的产业化 突破了众多技术瓶颈,进入快速发展期。
要在产业化落地中一展拳脚,神经形态计算 芯片必须在实现算力和能效大幅提升的同时,达 到或保持预期计算精度。清华大学集成电路学院、 北京未来芯片技术高精尖创新中心副教授高滨等 人在《自然·电子》发表的综述文章 [1] 中,提出 了神经形态计算芯片的四项评价指标,分别是: 1. 计算密度(芯片集成度),即芯片单位面积内的 人工突触密度,反映了芯片单位面积计算能力; 2. 能量效率,即芯片运行时的能量消耗效率,涉 及到芯片运行时的学习和推理两个阶段;3. 计算精 度,即通过在标准数据集上运行广泛使用的模型 来评估芯片的计算精度;4. 片上学习能力,即神 经形态计算芯片进行机器学习模型训练等的能力。
针对上述影响神经形态计算芯片产业化发展 的关键技术评价维度,通过对相关专家的进一步 访谈,本文梳理了全球范围内神经形态计算芯片 的技术发展现状和可预期进展(见表 1)。
三、神经形态计算芯片产业化应用现状
总体而言,神经形态计算芯片属于芯片产 品中与主流芯片产品互补的、提供增量解决方案的高增长细分赛道。作为一个前沿且技术上不 断突破的领域,不同研究机构对神经形态计算 市场规模的预测差距很大。公开资料显示,部分 研究机构(如 Sheer Analytics & Insights、Mordor Intelligence、KBV 等)预测神经形态计算行业在 未来五年的复合年增长率在 12%-50% 之间,市场规模或达到 4-5 亿美元。 就神经形态计算芯片的应用领域来看,目前主要包括较为基础的以分类任务为主的应用,如 图像识别、信号处理和数据挖掘等,以满足边缘 计算、物联网领域(如健康检测设备、智能家居 设备等)不断增长的对模式识别和感官数据进行 实时分析和计算的需求。
现阶段,神经形态计算芯片的商业化落地仍面 临亟待解决的发展瓶颈。首先,神经形态计算芯片 的计算精度(可靠性)达不到或者难以超越传统芯 片性能。其次,终端设备厂商在采用神经形态计算 芯片时,面临与现有软硬件环境兼容上的转换成本。
四、神经形态计算芯片的典型机构及产品
全球范围内,参与神经形态计算芯片开发的 机构主要包括以下几类:以 IBM、高通、英特尔、 华为等为代表的科技巨头企业;以斯坦福、清华 为代表的大学科研机构;初创型神经形态计算芯 片企业。在众多神经形态计算芯片产品中,IBM的 TrueNorth 芯片、Intel 的 Loihi 芯片、海德堡大 学的 BrainScaleS 芯片、斯坦福大学的 Neurogrid 芯 片、曼彻斯特大学的 SpiNNaker 芯片以及清华大 学的天机芯片是现阶段六个主要的神经形态计算 芯片代表 [3]。
(一)科技巨头的芯片产品开发
TrueNorth 是 IBM 潜心研发近十年的神经形态 计算芯片。2011 年,IBM 公司通过模拟大脑结构, 首次研制出两个具有感知和认知能力的硅芯片原 型,可以像大脑一样具有学习和处理信息的能力。 2014 年,IBM 公司发布了名为“TrueNorth”的第 二代神经形态芯片。与第一代神经形态芯片相比, TrueNorth 芯片在神经元数量、可编程突触数量、 每秒可执行突触运算量、总功耗、处理核体积等 方面的性能大幅改进。目前,IBM 公司已开发出 一台神经元计算机原型,它采用 16 颗 TrueNorth 芯片,具有实时视频处理能力。
英特尔在 2017 年 9 月也围绕 FPGA 推出了模 仿人脑的人工智能芯片 Loihi,其内部包含了 128个计算核心,每个核心集成 1024 个人工神經元,总计 13.1 万个神经元,彼此之间通过 1.3 亿个突 触相互连接。
除此之外,Zeroth 是高通公司发布于 2015 年 的“认知计算平台”,它可以融入到高通公司量产 的 Snapdragon 处理器芯片中,以协处理方式提升 系统的认知计算性能,并可实际应用于手机和平 板电脑等设备中,支持诸如语音识别、图像识别、 场景实时标注等实际应用 [2]。
国内方面,华为也在神经形态计算芯片领域 加紧布局。一方面,华为正就神经形态计算芯片 的研发与清华大学紧密合作。双方通过共同派出 技术人员组成研发团队的方式,开展包括芯片设 计制造、软硬件协同、终端应用生态在内的全链 路合作。另一方面,华为全资子公司哈勃科技于 2019 年投资了深思考人工智能机器人科技(北京) 有限公司,后者正是一家专注于神经形态人工智 能与深度学习核心科技的人工智能公司。
现阶段,尚未获悉 IBM、英特尔等领先企业 基于神经形态计算芯片的大规模商业化产品面世。
行业整体仍处在生态搭建阶段,即以内部研发为 主,将研究成果与外界共享,借助外部资源探索、 定义神经形态计算芯片的应用场景,以及进行面 向特定需求的产品开发。
(二)高校等科研机构的芯片研发
2020 年,麻省理工学院的学者在《自然纳米 技术》上展示了一种新型神经形态芯片。它采用 新型忆阻器设计,采用铜银合金构造忆阻器,而 非用银作为模拟大脑突触材料。改造后的新型忆 阻器拥有更强的性能,从而使芯片能够更有效地 “记住”并重复回忆非常详细的图像,提高了芯片 进行图像处理的效率 [4]。
我国的神经形态计算芯片“天机芯”由清华大 学施路平教授团队研制,“天机芯”第一代、第二 代产品分别于 2015 年、2017 年研制成功,采用 28纳米工艺制程,由 156 个计算单元(Fcore)组成, 可同时支持机器学习算法和现有神经形态计算算 法。经过不断改进设计,第二代“天机芯”具有高 速、高性能、低功耗的特点。此外,浙大的“达尔 文”也是国内有代表性的神经形态计算芯片。
(三)初创型神经形态芯片企业
目前,国内神经形态计算芯片领域内的代表 性初创企业包括灵汐科技、知存科技、闪亿半导 体、中科神经形态、南京芯辰神经形态科技、后 摩智能、九天睿芯、博维逻辑等。
灵汐科技成立于 2018 年,是清华大学神经形 态计算中心科技成果转化项目,创始团队脱胎于 清华大学天机芯片研发团队,产品包括神经形态 计算芯片、基于神经形态计算芯片的加速板卡和 服务器、软件工具链和系统软件。公司于 2018、 2019 和 2021 年完成了三轮股权融资。
知存科技成立于 2017 年,创始人毕业于北京 大学,公司致力于开发基于 NOR Flash 的存算一体 人工智能芯片以及智能终端系统;面向低功耗、快 响应、低成本的人工智能应用场景,比如智能家居、 可穿戴设备、智慧城市、物联网等。公司分别于 2019、2020 和 2021 年完成了三轮股权融资。
闪亿半导体成立于 2017 年,是一家集成电路 产品研发商,并聚焦与存算一体芯片相关技术的研发。公司于 2021 年完成了来自张江科投和襄创 创业的股权融资。
中科神经形态成立于 2017 年,公司以中国科 学技术大学神经形态智能技术及应用国家工程实 验室为依托,以神经形态智能技术研发为战略方 向。公司于 2020 年先后获得合肥产投集团和安徽 省量子科学基金的股权投资。
后摩智能成立于 2020 年,专注于存算一体芯 片的设计、研发及应用,为工业智能、泛机器人 等边端及云端应用场景提供服务。公司于 2021 年 获得红杉中国等机构的股权投资。
九天睿芯成立于 2018 年,致力于超低功耗模数混合感存算一体芯片设计。公司于 2021 年 6 月完成 了韦豪创芯和浦东科创联合等机构的股权投资。
四、神经形态计算芯片产业化发展趋势 研判
得益于国内知名高校机构和多家技术领先企 业持续的科研探索和工程化迭代,中国在神经形 态芯片领域的技术实力已处于全球领先水平。而 中国在物联网、边缘计算方面的巨大发展空间, 也为神经形态芯片的产业化提供了丰厚的土壤。 此外,众多风险投资机构对该领域的持续关注, 则为神经形态芯片的科研成果转化和产业化落地 提供了更多助力。
(一)通过算法和架构设计改良计算精度,构筑技术壁垒
神经形态计算芯片在产业化过程中,核心技 术壁垒是计算精度问题(可靠性),需要在工程 上(包括器件、架构等层级)有待提升。就产业 化速度而言,从算法和架构上入手,投入产出比 会更高,而器件层面的提升则需要投入更多研发 力量。
(二)赛道分散,加速在中国构建其产业生态
由于不同神经形态计算芯片采用的架构、器 件、工艺等类别较多,不同技术彼此之间没有绝 对的优劣关系,在技术商业化上就表现为细分赛道 较多,赛道挤占的现象不明显。同时,国内外在该
领域的技术水平上并没有明显差距,商业化的重点 在于找到恰当的应用场景,并搭建起稳定的产业生 态。目前,业内以寒武纪、华为为代表的企业,都 在采用软硬一体的思路,自研全套解决方案,以更 加齐备的软件配套提升下游厂商的使用意愿。
(三)凭借互补关系与传统芯片共生共存
就芯片发展路径而言,延续摩尔定律(More Moore)的路线仍有较长(>10 年)的迭代发展周 期;神经形态计算芯片模拟人脑的设计原理,使 其具备基于“冯·诺依曼架构”的传统芯片的互 补性,为超越摩尔定律(More than Moore)的发展 思路带来更多可能性。神经形态计算芯片与擅长 数值计算的传统芯片相结合,能够大大拓宽人工 智能芯片的应用场景。
(四)基于互补和交叉,或将受益于量子技术的发展
神經形态计算芯片与量子技术的发展具有一 定的互补性和交叉发展的机会。量子计算的技术 突破将极大提升云端的运算能力,而神经形态计 算芯片将改善边缘端的运算能力。未来,神经形 态芯片和量子技术的结合,或将带来更大的想象 空间,尽管周期将很长。
参考文献
[1] Zhang W, Gao B, Tang J, et al. Neuro- inspired computing chips[J]. Nature Electronics, 2020, 3(7):371-382.
[2] 陶建华,陈云霁 . 神经形态计算芯片与神 经形态智能机器人发展现状与思考 [J]. 中国科学院 院刊,2016,31(7):803-811.
[3] 施路平,裴京,赵蓉 . 面向人工通用智能 的神经形态计算 [J]. 人工智能,2020,4(01):6-15. [4] Yeon H, Lin P, Choi C, et al. Publisher Correction :Alloying conducting channels for reliable
neuromorphic computing[J].Nature Nanotechnology, 2020,15(7).
(作者单位分别为清华大学全球私募股权研究院、 清华大学经济管理学院)