论文部分内容阅读
网络服务、云计算等新型高通量应用的迅速兴起给处理器结构设计带来了巨大的挑战。高通量处理器作为面向此类应用的新型处理器结构成为研究热点。与传统高性能应用不同，新型高通量应用的特征已经从传统的计算密集型变为了亿级高并发用户请求服务及海量数据分析。这类应用的目标已不再是追求传统的LINPACK速度，而是高通量，即提高单位时间内处理的并发任务的数目。为了满足高通量应用中亿级并发需求下不断增长的数据量和用户对服务质量的需求，网络数据中心面临着低吞吐能力、高能耗、实时性差等挑战。首先，高通量应用的数据密集型特征加重了冯·诺依曼体系结构的“存储墙”问题;其次，大规模片上网络结构平均寻径距离的增加，引起数据包传输时延迅速上升，引发“传输墙”问题;最后，众核结构在单芯片上集成更大规模晶体管导致“功耗墙”问题。针对高通量众核处理器研究与设计中面临的“三墙”问题，本文通过分析高通量应用的访存特征，针对大规模众核结构中的离散访存消息，提出了访存请求批量处理机制;针对细粒度访存数据包的特征，提出了高密度片上网络结构设计及数据包传输算法;针对Cache访问中的高能耗问题，利用高通量应用中超多线程共享Cache的特征，提出了利用访存线程ID过滤掉无用的Cache行访问的策略，降低了Cache的动态访问功耗。本文的主要创新点及贡献包括: 访存请求批量处理机制(MACT)。针对高通量应用数据密集型特征带来的更为严重的“存储墙”问题，提出了离散访存请求收集和批量处理机制MACT。在高通量处理器设计中通过添加MACT硬件机制，结合消息式内存机制，用于收集离散的访存请求并进行批量处理。MACT硬件机制提高了访存带宽的有效利用率，同时也提高了执行效率。并通过时间窗口机制，确保访存请求在最晚期限之前发送出去，保证任务的实时性。实验以典型高通量应用WordCount、TeraSort、Search为基准测试程序。结果表明，添加MACT硬件机制后，基于总线结构的128核系统访存数量减少约49％，访存带宽提高约24％，平均执行速度提高约89％;基于2D Mesh结构的1024核系统访存数量减少约42％，访存带宽提高约14％，平均执行速度提高约51％;基于两级环结构的1024核系统访存数量减少约60％，访存带宽提高约48％，平均执行速度提高约118％。 高密度片上网络机制(HD-NoC)。针对高通量处理器片上网络长寻径距离引起的“传输墙”问题，结合高通量应用中的大量细粒度的访存消息，在高密度片上网络中将传统的高宽度链路被分割成低宽度自治子链路。自治子链路可单独传输不超过自身宽度的小数据包，或多个自治子链路共同传输大数据包。在HD-NoC设计基础之上，提出了贪心传输机制。在贪心传输机制中，每次数据包传输时，会选择尽可能多的数据包将链路带宽全部利用起来，以此提高传输链路的有效利用率。实验表明，对于高通量应用，高密度片上网络相对于传统片上网络平均吞吐率提高了22.2％，其中对于Grep应用来说，吞吐率提高可达32.4％;对于传统SPLASH-2应用，平均吞吐率提高了13.5％。数据包平均传输延迟方面，在Uniform Random流量模式下提高了近一倍的网络吞吐率，在其它流量模式下，网络吞吐率也有较高的提升。高密度路网中路由器结构相对于传统片上路由器结构面积开销仅增加约7.9％。 基于线程ID的低功耗Cache设计机制(TID-Cache)。针对高通量处理器单芯片集成大规模晶体管引发的“功耗墙”问题，结合高通量应用任务高并发特征及Cache占片上处理器功耗比较高的现状，提出了基于线程ID的低功耗Cache设计方案。此方法利用访存消息中携带的线程ID，在进行Cache Tag对比和CacheData读取之前，过滤掉无用的Cache行访问，以此降低Cache的动态功耗。为了避免Cache行过滤引入的新延迟，本研究将线程ID对比预测装置置于更高一级Cache中，对于L1 Cache，预测装置实现于流水线地址生成或虚实地址转换阶段。实验以SPLASH2和Cloudsuite为测试程序。测试结果表明，当Cache被16线程共享时，约38.25％的L1 Cache和约43.8％的L2 Cache行访问可以被过滤掉，相应节省的动态功耗约为37.85％～43.75％。相对于传统Cache结构面积开销仅增加约3％。