异构化、平台化、IP化人工智能时代FPGA展现新趋势
2019-08-22
作为一种可编程逻辑器件,FPGA 在20 多年中已从电子设计的外围器件逐渐演变为数字系统的核心。随着云计算、人工智能时代的到来,善长数据并行计算、更加灵活和低延迟的FPGA 将受到更多关注,FPGA 厂商也推出不同类型的解决方案加以应对——异构计算平台化、IP 化,FPGA 正展现出更多新的发展趋势。
AI 应用驱动,FPGA 市场快速增长
云计算、人工智能的应用发展,对芯片的计算力提出了更高要求,FPGA 可以同时进行数据并行和任务并行计算,具备更大的灵活性。很多使用通用处理器或ASIC 难以实现的底层硬件控制操作,利用FPGA 可以很方便的实现。因此,近年来FPGA受到越来越多的关注和应用。
“AI 推断需求的指数级增长,需要特定架构(DSA)以达到最大效率。然而,与AI 创新的速度相比,固定硬件的DSA 开发周期太过漫长。”赛灵思细分核心市场副总裁Yousef Khalilollahi指出:“FPGA提供灵活应变的平台,支持可随时根据最新AI 技术定制的DSA,而且无需坐等漫长硅片研发周期。”
微软亚洲研究院异构计算组副研究员张宸在此前举办的“第六届中国FPGA 产业发展论坛”上也指出,这些年人工智能的崛起,依靠的是深度神经网络算法大型多层的网络模型,典型的有循环神经网络和卷积神经网络。这样的模型一次推断(inference)通常需要数十亿甚至上百亿次的运算,而在线服务系统的响应时间在毫秒量级。这就意味着需要每秒上万亿次(TFLOPS)甚至百万亿次的运算性能,同时对器件的体积、功耗还有一定的约束。这使得人们期待的数据中心高性能计算硬件应当具备如下优势:低延迟、低开销和规模化。在数据中心,FPGA 相比GPU 的核心优势在于低延迟,使用FPGA 来加速的话,只需要微秒级的PCIe 延迟,微软现在的FPGA 是作为一块PCIe 加速卡。对通信密集型任务,FPGA 相比CPU、GPU 的优势更大。
在此情况下,近年来,FPGA 的应用领域正在不断拓展,市场规模也不断地扩大。研调机构Global Market Insights 的报告称,2022年FPGA 规模有望超过99.8 亿美元。根据Semico Research 预测数据,仅在人工智能应用中,FPGA 的市场规模将在未来4年内增长3 倍,达到52 亿美元。
平台化+异构整合,FPGA 展现新趋势
面对拓展越来越大的应用趋势,各FPGA 厂商也在推出不同的解决方案。这些解决方案反应了不同厂商面对新市场需求形成不同的发展策略,也对FPGA 的技术趋势形成了不同影响。
去年,赛灵思在其2018 开发者大会(XDF)上发布了业界首款7nm 自适应计算加速平台(ACAP)产品Versal。ACAP 的核心是新一代的 FPGA 架构,并结合了分布式存储器与硬件可编程DSP 模块、一个多核SoC 以及一个或多个软件可编程且同时又具备硬件灵活应变性的计算引擎。从Versal ACAP 的推出可以看出,赛灵思正在试图改变以往以FPGA 为单一核心的状况,朝着异构计算平台化发展,希望以此将不同种类的算法分配到更合适的异构引擎当中。新平台可以支持更多应用,适应不同的开发者。正如Yousef Khalilollahi 所言:“单独一个计算体系结构,无法满足当今最流行的应用所需要的性能和功耗要求。在后摩尔定律时代,异构计算是唯一的发展之路。”
对于英特尔来说,对FPGA 的发展策略则是更多地整合多种处理器产品组合,面向云端提供综合性计算解决方案。
在日前举办的“英特尔公司中国媒体纷享会”上,英特尔中国研究院院长宋继强提出“超异构计算”概念,其中就包括了在未来芯片架构设计上进行灵活性的组合部署,实现CPU、FPGA、GPU 等处理器的组合,显示了英特尔将基于其在云计算上的强大实力,把服务器CPU 与FPGA 的加速功能进行整合。FPGA 正越来越深入地嵌入到英特尔云端处理解决方案当中。英特尔数据中心事业部副总裁Caroline Y Chan 也表示,随着5G网络的建设,像是快速部署无线网络、确保网络性能、建置虚拟化环境等,都是必须完成的工作。而FPGA 的优势十分明显,在实现网络虚拟化加快当中势必会使用到它。另外,其可编程的特性也为网络新增功能提供了更多灵活性与可扩展性。
Achronix 公司近日发布的Speedster7t 代表了另一种发展趋势,其力图将FPGA 的可编程性与ASIC 的布线结构和计算引擎相结合,通过对二维片上网络(2D NoC),以及高密度全新机器学习处理器(MLP)模块阵列等的集成,简化用户设计,以应对人工智能机器学习应用的需求。“Speedster7t系统将数学函数、存储器和可编程性整合到机器学习处理器中,再结合交叉芯片、二维NoC 结构,可以确保整个器件中数据自由流动。而在人工智能机器学习应用中,内存带宽就是一切,Speedster7t 在这方面可以提供令人印象深刻的性能指标。” Achronix Semiconductor 总裁兼首席执行官Robert Blake 表示。
嵌入式FPGA,市场接受程度提升
不同于CPU、GPU 等在移动时代快速实现IP 化的发展趋势,嵌入式FPGA(eFPGA)一直没有成为市场的主流。不过,随着云计算、人工智能时代的到来,eFPGA 的市场接受度有望进一步提升,成为FPGA 产品的主要发展趋势之一。
对此,Robert Blake 指出,FPGA 是可以有效地实现IP 化。eFPGA 具有易用性,大大降低了使用门槛,可以快速满足用户多样化需求,无论是系统级还是芯片级都可以支持。这在人工智能时代非常重要,特别是在边缘侧计算中受到欢迎。事实上,现在有很多用户在寻问FPGA 的IP 问题。相信未来将有越来越多IP 化的FPGA 被应用。
eFPGA 是指将一个或多个FPGA 以IP 的形式嵌入ASIC、ASSP 或SoC 等芯片中的发展模式。eFPGA 的特色之一是易用性,它降低了客户集成FPGA 加速器的门槛。客户通过定制其逻辑、Ram 和Dsp 资源需求,可以将多个IP 进行组合,以便为特定的应用创建优化的可编程功能。这种发展模式在CPU 和GPU 等芯片中被大量使用,但在FPGA 上却没有得到推广。
“eFPGA 是令人兴奋的新工具,它使SoC 架构师可以使他们的芯片更加灵活和可重新配置。” Robert Blake 表示。
(来源:电子信息产业网)