引用本文:水超洋,于献智,王银山,谭光明.国产异构系统上HPL的优化与分析.软件学报,2021,32(8):2319-2328
【打印本页】   【下载PDF全文】   查看/发表评论  【EndNote】   【RefMan】   【BibTex】
←前一篇|后一篇→ 过刊浏览    高级检索
本文已被:浏览 2752次   下载 7252 本文二维码信息
码上扫一扫!
分享到: 微信 更多
国产异构系统上HPL的优化与分析
水超洋1,2, 于献智1,2, 王银山1,2, 谭光明1,2
1.中国科学院 计算技术研究所, 北京 100190;2.中国科学院大学, 北京 100190
摘要:
随着异构系统成为建造超级计算机的重要选择,如何让CPU与加速器协调工作以充分发挥异构系统的计算性能具有重要意义.HPL是高性能计算领域最重要的基准测试程序,传统面向纯CPU系统的HPL算法通过加速器加速矩阵乘法的做法已经无法取得很好的性能.针对这一问题,提出了基于国产处理器-国产加速器异构系统的HPL性能模型和多线程细粒度流水HPL算法.完成了一个轻量级跨平台异构加速框架HPCX,以实现跨平台的HPL算法.该性能模型能够准确地预测类似异构系统的HPL性能.该HPL算法在NVIDIA GPU平台上性能超过了NVIDIA官方闭源nvhpl程序9%.在国产处理器-国产加速器平台512个节点的规模上,优化的HPL算法实现了2.3 PFLOPS实测峰值性能和71.1%的浮点效率.
关键词:  HPL  异构系统  跨平台  性能建模  E级计算
DOI:10.13328/j.cnki.jos.006004
分类号:TP303
基金项目:国家重点研发计划(2018YFB0204400,2016YFB0201305,2016YFB0200803,2016YFB0200300);中国科学院战略性先导科技专项(C类)(XDC01030000);国家自然科学基金(61972377,61432018,61702483);中国科学院前沿科学重点研究计划(QYZDJ-SSW-JSC035)
Optimization and Analysis of HPL on Domestic Heterogeneous System
SHUI Chao-Yang1,2, YU Xian-Zhi1,2, WANG Yin-Shan1,2, TAN Guang-Ming1,2
1.Institute of Computing Technology, Chinese Academy of Sciences, Beijing 100190, China;2.University of Chinese Academy of Sciences, Beijing 100190, China
Abstract:
As heterogeneous system becomes one of the most important choices to build super computers, how to orchestrate CPU and accelerator to leverage the great computability of heterogeneous systems is of great significance. HPL is the most important benchmark in HPC field, traditional HPL algorithm targeting at CPU-only systems cannot achieve high performance by only offloading matrix multiplication workload to accelerators. To solve this problem, this work proposes a HPL performance model and a multithread fine-grained pipelining algorithm for domestic-processor-domestic-accelerator heterogeneous system. Meanwhile, a light weight cross-platform heterogeneous framework is implemented to carry out a cross-platform HPL algorithm. The proposed performance model predicts HPL performance accurately on similar heterogeneous systems. On NVIDIA platform, the proposed HPL algorithm outperforms the NVIDIA proprietary counterparts by 9%. On domestic-processor-domestic-accelerator platform, the finally optimized Linpack program achieves 2.3 PFLOPS on 512 nodes, with floating-point efficiency 71.1%.
Key words:  HPL  heterogeneous system  cross-platform  performance modeling  exascale computing

引用本文:
【打印本页】   【下载PDF全文】   查看/发表评论  【EndNote】   【RefMan】   【BibTex】
←前一篇|后一篇→ 过刊浏览    高级检索
本文已被:浏览次   下载  
分享到: 微信 更多
摘要:
关键词:  
DOI:
分类号:
基金项目:
Abstract:
Key words: