可重构神经网络加速器设计关键技术研究

来源 :清华大学 | 被引量 : 5次 | 上传用户:baby3911
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算能力的发展和数据量的增加,基于深度神经网络的机器学习算法已经在视觉、语音等多个领域中体现出了优秀的性能。神经网络的模型规模日益复杂,这也就对执行神经网络运算的处理结构提出了要求。通用的冯诺依曼结构处理器往往在能效比上难以提供令人满意的性能,而可重构处理器具有可配置、高灵活性、并行程度大等特性,因此可以成为了一种合理的选择。本文以卷积神经网络的前向推断过程为加速目标,从静态可重构的FPGA和动态可重构的CGRA两方面入手,并结合数据位宽量化、硬件粒度挖掘、计算通路复用、层次化存储等优化方向,对系统结构分别进行定制化的设计。在静态可重构结构设计上,我们以FPGA为实现平台,首先针对常见的卷积神经网络模型设计了高能效的加速结构FP-CNN。基于资源感知的模型建模,从计算存储量、访存带宽以及能耗指标上分别给出了量化分析,并基于这一模型,给出了权重和特征图的量化手段,实现了计算通路的扩展以及权重和特征图多层片上存储结构的设计,大幅提升了卷积层计算的带宽;随后,我们从量化角度进一步深化,选取单比特的二值神经网络模型给出加速结构FP-BNN的设计,并针对比特级的向量乘法操作使用了基于异或和汉明重量计算的定制通路设计,避免了乘法器的使用,同时通过存储与调度的特定设计实现了超高带宽的计算吞吐量。在动态可重构结构设计上,我们则根据神经网络计算任务的特性,设计并实现了粗粒度动态重构芯片Chameleon,并以其为计算核心,通过系统结构、配置信息及编译流程上的设计,实现了可扩展、高能效的DP-CNN动态可重构加速系统。经验证,通过对计算通路及存储带宽的改进,FP-CNN体现出了高于已有FPGA设计的速度性能及能效比,而经过定制化二值计算通路设计的FP-BNN更是达到了超过GPU的TOP/s级别速度性能。DP-CNN则提供了 一种动态重构的加速解决方案,以其较高的能效比、较低的功耗以及实时的可配置性,在移动嵌入式端等领域能够获得应用空间。
其他文献
随着大学城建设热潮的出现,高校教学区与生活区被城市道路隔离的现象普遍存在。如果两个分区之间交通联系不当可能会导致城市交通和环境等诸多的问题。本文以福州大学城福大新
<正>萝北县是我省北部一个边陲小县,以黑龙江为界与俄罗斯隔江相望,总面积6784平方公里,其中耕地300万亩,处于典型的寒地黑土湿地地带,年粮食总产量160万吨,素有"五山一水四
随着网络的快速发展,微博逐渐成为青年大学生交流和获得信息的有效途径,微博在传达青年大学生思想观点、表达利益诉求特别是在动员引领青年行为上正发挥着重要作用。用社会主
随着社会文明的快速发展,在社会发展的新常态环境,企业组织人事工作的重要性越来越凸显,如何在社会发展的新识企业组织人事工作,开展好企业组织人事工作,服务和推动企业的科
情绪智力对成人的全面发展至关重要,而现阶段我国的成人教育未能充分关注成人情绪智力的培养。本文探讨了情绪智力的内涵、功能以及对成人教育的价值,并尝试将情绪智力理论引
网络能够将各种传播形态和方式集于一身,具有高度的交互性和灵活性,是进行思想政治教育的有效载体。基于网络载体的传播优势和隐性思想政治教育的独特作用方式,以网络热点问
目的了解历城区2013-2018年卫生行政处罚案件情况,及时总结经验,为改进和完善卫生行政处罚工作提供参考。方法对历城区2013-2018年立案并办结的案件进行整理,形成Excel数据库
诗化是纪录片的一种美学风格,它用纪实的方式表达诗意、抒发作者的主观情感。本文通过中外纪录片实例,探究诗化纪录片的发展方向。诗化纪录片只有寻找到纪实与诗意之间的均衡
梅州市梅县区丽群小学,是由原全国人大常委会委员、香港金利来董事局主席曾宪梓博士伉俪捐资兴建,并于1993年9月开办,是广东省一级学校、全国现代教育技术实验学校。现有学生
目的研究手部软组织缺损患者应用旋髂浅动脉皮瓣修复的临床效果,以为临床手部创伤修复提供参考。方法选取2008年3月至2015年2月潮州市第一八八医院收治的21例外伤致手部软组