基于CPU-GPU异构系统的多任务调度策略研究

• 作 者: 周宽
• 出 处: 北京工业大学
• 发表日期: 2020年01期
• 关键词: CPU-GPU 异构计算 资源调度 执行时间

近年来,同构多核处理器已经无法满足计算能力的需求,随着处理器结构进一步的发展,包含CPU和GPU的异构多核处理器已经开始逐渐取代同构多核处理器成为当前的主流处理器。CPU/GPU异构系统拥有多个不同类型的处理核心,这使得系统能够更高效的处理不同类型的任务,而GPU的加入更是大幅提高了系统的并行处理能力,使得程序的运行速度得到很大的提高。CPU-GPU异构架构在提升了系统计算能力的同时也面临着许多挑战。在不同的异构系统中,不同类型的任务与异构处理核心间的最优匹配关系难以确定,在处理能力有明显差异的核心间进行任务分配难以保证工作负载均衡,这些问题都使得异构系统的资源利用率低下,没有发挥出应有的性能,而解决问题的关键方法就是设计合理的系统资源调度策略。以提高CPU/GPU异构系统性能为目标,本文进行了以下几个方面的研究工作:第一,考虑到应用在GPU上执行时的线程组织结构会对计算资源的利用产生影响,提出了一种适应当前应用和GPU硬件环境的块大小调节策略。该策略包含两个阶段,第一个阶段通过线性探索的方式在处理少量任务数据的同时记录不同线程组织结构对应的执行效率,第二个阶段通过查询已有记录,直接使用最合适的线程组织结构处理剩下的数据,从而提高GPU的工作效率。第二,为提高CPU/GPU异构系统的资源利用率,提出了一种优先保护高效核心的负载均衡策略。该策略分为两个部分,第一部分通过样本预处理来了解应用在当前异构核心上的执行效率;第二部分以应用在高效核心上的执行为优先,通过设置效率差距阈值和工作负载保留因子控制任务在异构核心间的合理分配。更进一步的,将块大小调节策略和负载均衡策略进行融合重构可形成BS-WB组合策略,该策略吸收了两者的优点,在进一步提高异构系统性能的同时扩大了策略适用范围。第三,为解决BS-WB组合策略不适合处理多个任务的问题,基于全局任务分配的思路,提出了一种多任务调度策略以处理大量不同类型的任务。在该策略中,先根据样本数据的处理确定任务组内任务的特征,然后以核心工作效率为优先,根据样本处理所得的信息将任务分配到核心上执行,并通过改进的蚁群算法以减少确定任务分配方案所造成的额外开销。本文在CPU-GPU异构环境中运行了八种具有代表性的应用来对不同策略进行测试,实验结果显示,块大小调节和负载均衡策略可以显著提高性能,对于所选应用中与这些策略的适用范围最为匹配的应用,两种策略分别减少了46.35%和78.84%的执行时间,组合策略对于所选的八种应用的执行时间平均优化结果为29.13%,而多任务调度策略在组合策略的基础上减少23.38%的总执行时间。两种策略相结合提高了异构系统资源调度策略的通用性,能够更好的发挥异构系统的处理能力。