卷积神经网络混合截断量化

• 作 者: 黄钲喆 杜慧敏 常立博
• 机 构: 西安邮电大学电子工程学院
• 出 处: 计算机辅助设计与图形学学报
• 发表日期: 2021年04期
• 关键词: 卷积神经网络 混合精度量化 强化学习 混合截断 convolutional neural networks mixed-precision quanti
• 基金项目: 西安市科技计划(201805040YD18CG24(5))

量化是压缩卷积神经网络、加速卷积神经网络推理的主要方法.现有的量化方法大多将所有层量化至相同的位宽,混合精度量化则可以在相同的压缩比下获得更高的准确率,但寻找混合精度量化策略是很困难的.为解决这种问题,提出了一种基于强化学习的卷积神经网络混合截断量化方法,使用强化学习的方法搜索混合精度量化策略,并根据搜索得到的量化策略混合截断权重数据后再进行量化,进一步提高了量化后网络的准确率.在ImageNet数据集上测试了ResNet18/50以及MobileNet-V2使用此方法量化前后的Top-1准确率,在