【摘 要】
：
近年来,深度卷积网络被广泛应用于计算机视觉领域,在许多视觉任务上如图像分类、目标检测、视频跟踪、图像分割等取得了优异的表现。性能优异的深度卷积网络往往具有参数量大
论文部分内容阅读
近年来,深度卷积网络被广泛应用于计算机视觉领域,在许多视觉任务上如图像分类、目标检测、视频跟踪、图像分割等取得了优异的表现。性能优异的深度卷积网络往往具有参数量大、计算复杂度高的特点,因此它们将很难被直接部署在移动设备上。如今,针对深度卷积网络压缩的研究成为学界和工业界的研究热点。本文针对深度卷积网络压缩问题,从提高模型参数结构化稀疏度和模型参数量化表示两方面开展了研究,具体的研究内容和创新点归纳如下:提出了一种对深度卷积网络自动化结构化的稀疏剪枝方法。本文结合神经架构搜索方法对预训练模型自动剪枝,可以有效地扩大剪枝空间来搜索最优的初始化剪枝索引,提高网络结构的稀疏度。具体来说,利用进化算法对网络中的卷积核进行编码,设计个体适应度函数来评价个体优劣,经过选择、交叉、变异等进化操作来迭代出最优的个体,最后执行剪枝操作。剪枝后,通过知识蒸馏的训练策略来微调剪枝后网络,进一步提高剪枝后模型的准确率。实验表明,所提出的方法在更高网络稀疏度的情况下可以取得与传统剪枝方法相当的效果。提出了一种对生成对抗网络(Generative Adversarial Network,GAN)权值和激活量化的方法。通过量化敏感性分析发现,与量化分类网络不同,GAN中的权重量化比激活量化更敏感,因此在量化时给予权重更多量化比特。比较了两种评价GAN生成图像的指标Inception Score(IS)和Fréchet Inception Distance(FID),发现FID更适合评估量化后GAN的性能。本文基于敏感性分析在MNIST和Celeb-A数据集上进行量化实验,用FID指标来评估量化GAN的性能。实验结果表明:在生成图像质量不下降的情况下,所提出的方法依然可以取得4倍以上的压缩率,从而有效地解决了GAN的压缩问题。
其他文献
当前,世界经济已经进入到一个科技创新驱动的新时代,以互联网科技、生物技术、新材料技术等为代表的高新科技,引领了新一轮的全球产业转移。服务外包在这场产业转移的浪潮中,凭借低耗能、高附加值、促进就业等特质,深受各国青睐。全球服务外包市场竞争激烈,各国都想在全球价值链上抢占高位,掌握话语权,以此促进国内产业升级、经济发展。中国服务外包产业起步较晚,但凭借人口红利和劳动力价格优势,十余年发展迅猛,如今已站
短文本情感分析是自然语言处理的热点研究方向之一。使用基于深度学习的方法捕捉潜藏于文本的情感信息,是目前较为流行的一种短文本情感分析方法,但是它依赖数据集,在处理细粒度情感分析任务时准确率较低。基于情感词表与规则的方法常用于长文本分析。将这种方法引入细粒度短文本分析任务中,简称为混合词向量方法,利用情感词表能提取部分文本特征的特点,针对词向量语义稀疏的问题,改善词向量对文本的描述能力,提高细粒度短文
自然人网店已经成为网购电商的重要组成部分,加强对自然人网店的管理对我国经济的健康、稳定发展具有重要的意义。目前,我国对自然人网店管理的相关法律规定主要是依据国家工
B公司是一家中型科技公司,主要业务是开发和销售法律、商业方面的数据库。近年来,随着中国经济的发展和法制的健全,法务、商业数据方面的市场需求越来越大,B公司进入高速发展期。IT部作为B公司的支持部门,主要负责B公司的IT基础结构、相关应用软件、计算机软硬件的管理、维护、排障等相关工作。但是,目前B公司的IT部门存在着很多问题。例如,IT部门员工的服务意识普遍不高,大部分人的意识还停留在“做技术”而不
电子与高离化态离子的碰撞是天体和实验室等离子体环境中非常重要的原子物理过程,其高精度的原子参数,如截面、强度、速率系数以及退激发辐射光子的线性极化度等对等离子体的
在全行业快速发展的当下,互联网和高新科技快速发展,越来越多的企业对人才有了更多、更全面的需求,这也导致社会对高职院校的人才教育有了更高的期待。如何实现高职院校的教
当今社交媒体活跃在人们生活的各个角落,将用户社交关系结合传统推荐方法进行社会化推荐的方向成为新的研究热点。社会化推荐系统融合社交属性信息与评分信息进行推荐,一定程度上提高了系统推荐的准确性,但社会化推荐系统的开放性,极易受到恶意攻击,此类行为危害了社会化推荐的真实性,加深用户对系统推荐的不信任。国内外研究人员针对评分推荐系统或社交网络的攻击检测已有很多研究成果,但是很少关注针对社会化推荐系统的托攻
估计出监控场景中实时人数有助于突发事件的事前预警和事后决策。本文对治安智能视频监控系统中的拥挤人群计数以及人群密度统计进行了深入的研究。通过分析已有拥挤人群计数
传统的运动规划方法很难适用于六足机器人的多个关节角度规划,合理的角度规划是实现其稳定运动基础。仿照生物体中的中枢模式发生器(CPG)来规划机器人运动的节律信号是解决规
稳定性理论有着广泛的应用。比如,自然科学、工程技术、环境生态、社会经济等方面。本文主要讨论了几类随机时滞神经网络的稳定性。通过对不同神经网络模型的解的性质的研究,