新一代申威众核处理器上的不规则批矩阵乘算法优化

来源 :许乐 | 被引量 : 0次 | 上传用户:xiaoemoshou123abc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
批矩阵乘作为高性能计算和智能计算中的核心运算,有稠密计算和批量计算两大特征,在新兴众核处理器上的实现和优化至关重要。本文基于新一代申威众核处理器,对批矩阵乘的计算特征和访存行为进行了深入分析,针对不同类型的不规则矩阵乘分别设计了相应的执行算法;对访存和计算进一步优化,达到计算访存平衡;通过算法选择器和任务调度器对各算法进行动态选择和调度,充分发挥众核处理器的强大计算能力。本文的主要工作包括以下几个方面:1.提出了包含执行层和决策层的两层算法框架。执行层根据处理器硬件架构设计了单从核、单簇、四簇和全核组四种算法,以适应输入矩阵的不同规模和形状。由于各算法对计算资源的利用方式不同,因此执行层分别设计了正反播送、循环移位和行列双广播片上并行算法和数据共享策略,有效提升计算并行度和数据重用性。决策层负责算法选择和任务调度,其中基于多分类SVM的算法选择器实现了对执行算法的有效选择,平均准确率超95.3%。动态任务调度器解决了静态任务分配的长尾问题,平衡了计算单元间的任务负载。2.通过数据预取和自适应分块算法实现了计算和访存平衡。针对处理器计算性能和访存带宽之间的鸿沟,采用基于DMA和RMA的混合数据预取策略,有效隐藏了访存和通信开销,使算法整体性能提升80%以上。矩阵乘算法的计算强度与循环顺序及其分块大小有关,是联系计算和访存的关键因素。为了平滑不规则矩阵乘的性能抖动,提出以计算强度为目标的分块搜索引擎,自适应地给出最优循环顺序及其分块大小,使算法在不同输入下都有稳定的性能优势。此外,打包-填充-整理算法将矩阵的转置填充与计算访存的异步重叠结合,有效隐藏了转置矩阵的转置填充开销并节省了 LDM空间。3.面向新一代申威指令集设计了全新的计算内核。内核采用手工汇编的方式实现指令选择、寄存器分配和指令调度等工作。首先采用向量外积的计算形式,通过vlenma和vlenmas指令实现了微内核的矩阵乘和标量乘法,并根据寄存器的计算并行度和计算强度选择了最优分块大小。然后对指令序列进行相关性分析,采用基于寄存器缓冲的指令重排技术,扩大指令间的安全距离,实现了计算访存指令的双发射,使算法整体性能提升380%以上。通过以上工作,本文在新一代申威处理器上实现了高效的不规则批矩阵乘运算,其中全核组算法性能可达2TFLOPS,逼近理论峰值,且各算法在多数矩阵规模下都能保持明显性能优势。
其他文献
穿孔毒素(Pore-forming toxins,PFTs)是许多致病菌所共有的一种蛋白家族,在致病菌对宿主的致病过程中发挥重要作用。PFTs家族成员通过在宿主细胞膜上形成跨膜孔道结构来引起细胞的裂解。PFTs在细胞膜上形成孔道的过程虽已被熟知,但在该过程中PFTs所依赖的宿主因子及其分子机制还鲜有报道。本研究以PFTs家族中具有强细胞毒性的猪链球菌溶血素(Suilysin,Sly)为代表,利用C
玉米穗柄维管束(peduncle vascular bundle,PVB)系统在光合产物、营养物质和水分向穗子运输的过程中起着关键的作用,影响籽粒产量。然而,不同玉米品系中的PVB-相关性状的遗传基础尚不清楚。本研究分别以先玉335 RIL群体(PH4CV×PH6WC)、郑单958 RIL群体(Zheng58×Chang7-2)和一个关联群体为研究对象,结合高密度的SNP标记,分别对15个PVB-
Al-Mg-Si合金属于可热处理强化铝合金,由于其具有高的比强度、优异的成形性能和良好的焊接性能等优点被广泛应用于磁悬浮列车上。随着我国600 km/h的高速磁浮列车的发展,以6082为代表的Al-Mg-Si合金逐步拓展应用在服役环境恶劣的悬浮架等关键部件,因此对其力学性能和耐蚀性能提出了更高的要求。对于Al-Mg-Si合金,不可避免的自然时效往往会使合金的人工时效峰值强度损失20%~30%,发生
学位
伴随着中国人口数量的增加,国家对城乡发展要求不断加大,农村人居环境整治工作压力也随之加大,尤其是在农村人口众多、地理位置相对偏远的地区,乡村人居环境生活污水处理、生活垃圾治理、厕所革命等方面问题更为凸显,致使农村经济的发展、农民生活水平提高以及农村人居环境整治目标难以实现。湛江是农业大市,近年来,湛江经济快速发展,但农村人居环境却未能有效改善,不能满足广大农村群众对美好生活的愿望,开展农村人居环境
学位
学位
学位
<正>各大高校化工院系作为培养化工人才的主阵地,承担了为国家培养化工人才重要任务,在提升学生专业知识的同时,需要进一步加强优秀传统文化与化工专业的融合教学,坚定化工专业师生文化自信,切实提高学生专业能力和职业素养。本文从新时代背景下加强中华优秀传统文化教育角度分析,重点讨论中华传统文化教学对于化工专业教育的重要意义与发展路径,从而提升我国化工专业教育水平,为新时代国家化工产业发展贡献人才力量。
期刊
超冷里德堡原子气体在量子计算、量子模拟和量子传感等领域得到了广泛的研究。但是大多数研究都集中在具有一个价电子的碱金属原子上,像碱土原子这样的双价电子体系因其更丰富的电子结构和许多潜在的应用而在研究中引起了越来越多的关注。在本论文中,我们将介绍这个方向的实验和理论努力。这项研究的最终目标是使用基态锶原子的里德堡超冷气体来模拟相互作用的自旋模型。我们首先描述了一个经常用于产生锶原子超冷气体的设备的一些