基于三维存算一体架构的深度神经网络加速技术研究

• 作 者: 范彦铭
• 机 构: 南京航空航天大学
• 出 处: 南京航空航天大学
• 发表日期: 2020年01期
• 关键词: 三维存算一体架构

随着深度学习技术的飞速发展，深度神经网络的规模和复杂度不断提高，对计算平台的处理性能和能耗都提出了越来越高的要求。传统计算平台基于存算分离的架构，受限于片外存储器的数据带宽和访存延时，即“存储墙”，计算机系统的算力难以充分发挥，限制了计算平台处理深度神经网络的性能和能效。三维存算一体是新型架构，通过硅通孔（Through Silicon Via， TSV）技术将多层存储层与逻辑层进行三维垂直堆叠，形成计算存储一体化架构，可极大地提高存储器数据带宽，减少访存延时，有效缓解“存储墙”问题。但三维堆叠的芯片架构由于层间结构紧密，热量易于累积，造成较为严重的散热问题。本文对基于三维存算一体的深度神经网络加速技术及其散热机制进行研究，具有重要的理论意义和实用价值。
　　本文对三维存算一体架构的散热问题进行了分析，一方面，访存在时间上的不均衡性会导致某段时间内芯片温度的急剧升高；另一方面，访存在空间上的不均匀分布同样会引起局部热点。因此论文首先提出了一种基于热均衡的三维存算一体 DNN 加速方案，运用数据重用、数据压缩等技术提高计算速度，并针对芯片温度随时间不均衡分布的问题，提出通过卷积层与全连接层并行计算以均衡访存量，避免出现芯片在某一时间段温度过高的情况。其次，论文对三维存算一体 DNN加速器的地址映射方案进行研究，根据三维存储器中各区域不同的散热性能和芯片的实时温度，提出了基于热感知的地址映射方案，保证三维存算一体架构的工作温度稳定在一个合适的范围，避免在空间上形成局部热点。最后，本文通过AlexNet网络对加速架构进行测试，并与其它加速架构进行对比，验证了其可行性和性能的优越性；对加速架构进行热仿真，验证了其具有良好的散热性能。