国产复杂异构高性能数值软件的研制与测试专题前言∗

孙家昶,李会元

(中国科学院 软件研究所,北京 100190)

中国科学院首个C 类战略性先导科技专项XDC01000000 主要目标已经达到.在数值软件层面,该先导专项第 1 阶段的主要任务是在复杂异构先进计算系统上研制高水平的基准测试软件 HPL(high performance Linpack)和HPCG(high performance conjugate gradients).

HPL 与HPCG 是国际上最受关注的用于评测高性能计算机浮点运算性能的两款基准测试软件.HPL 通过高斯消去法求解稠密线性代数方程组来评测高性能计算机浮点性能的实际持续峰值,是目前全球超级计算机TOP500 以及中国高性能计算机TOP100 排行榜的依据.HPCG 是求解稀疏代数方程组的一种迭代算法.HPCG基准测试在国际上受到广泛关注,与HPL 相比,在一定程度上更能真实地反映高性能计算机的实际应用性能.全球超级计算机TOP500 以及中国高性能计算机TOP100 均提供HPCG 性能排行榜.如今,以计算速度为目标的HPL 与HPCG 基准测试,不仅为高性能计算机性能排名提供一种依据,更已成为一种被高性能计算提供商、研究机构与应用部门广为接受的工业标准.

先导专项先后两次开展了HPL 与HPCG 基准测试,其效率和可扩展性超过了先导专项的要求.据此,先导专项顺利通过了中国高性能计算机性能TOP100 排行榜专家组的鉴定,并得到了中国计算机协会专家组的肯定.

为此,《软件学报》编辑部特开设“国产复杂异构高性能数值软件的研制与测试”专题.专题拟聚焦国产复杂异构先进计算系统下的高性能计算软件、算法与测试技术,探讨软硬件总体结构与软件在先进计算系统中的地位与作用.专题定向邀请参与先导专项的兄弟单位研究团队,从学术层面交流复杂异构系统下的高性能计算基础软件的研制和优化的各种关键技术,总结高性能计算软件和应用研究中的挑战与对策.内容重点涵盖先进计算系统基准评测软件HPL、HPCG 等的研制、调优与测试及相应BLAS 等基础代数库的优化,也包含了若干高性能应用算法与软件的研制进展.

专题收到8 篇投稿,先后邀请了十几位领域专家参与审稿,每篇稿件都由3 位专家历经2 轮或3 轮审稿,最终有7 篇论文入选本专题.

论文“异构HPL算法中CPU端高性能BLAS库优化”针对具体异构系统的体系结构以及HPL算法特点,利用多种技术手段优化CPU端调用的各级BLAS(basic linear algebra subprograms)函数,应用auto-tuning 技术优化矩阵分块参数,从而形成了优化的BLIS算法库,以便更充分地利用通用CPU 计算能力,提高系统整体效率.

论文“复杂异构计算系统HPL 的优化”针对异构先进计算机系统,提出了一套CPU 与加速器计算任务分配方式,提出了平衡点理论指导HPL 性能优化,实现了加速器、CPU、网络等部件的高度并行,提高了加速器的利用率.

论文“国产异构系统上HPL 的优化与分析”基于处理器-加速器异构系统提出了一个HPL 性能模型,设计了一种多线程细粒度异构HPL算法,完成了一个轻量级跨平台异构加速框架,以实现跨平台的HPL算法.

论文“面向异构计算机平台的HPL 方案”尝试为HPL 的优化工作提供一种解决方案:Hetero-HPL.因为进程不再要求与(协)处理器一一对应,单节点HPL 可以完全避免进程间数据传输开销、完全利用物理节点的所有资源.

论文“国产异构系统上的HPCG 并行算法及高效实现”面向复杂异构超级计算机开展研究,提出了一种适用于结构化网格的图着色算法用于HPCG 并行,提出一套更适用于HPCG 的任务划分方法,并从稀疏矩阵存储格式、稀疏矩阵重排、访存等角度开展了细粒度的优化.

论文“SW26010 众核任务并行调度系统及其嵌套并行算法应用”提出了支持任务嵌套并行模式的通用运行时框架SWAN,并基于SWAN 框架在目标平台上实现了若干典型的具有递归特性的嵌套并行算法.

论文“面向异构计算的高性能计算算法与软件”对几类典型高性能计算应用软件开展并行计算算法特征分析,提炼出若干典型应用算法和软件的共性问题,并面向国产异构计算体系结构对高性能计算算法与软件进行了总结.

我们希望通过本专题的出版和传播,凝聚科技界及软件产业界对高性能计算基础软件和相应算法研究的重视,从而为后续异构计算机软件研制及产业发展打下更坚实的基础.