【摘 要】
：
监督学习通常需要大量标记样本训练模型。然而,在许多真实场景下,我们只有少量的已标记样本,以及大量的未标记样本,且标记的获取往往需要耗费大量的人力物力。主动学习通过有选择性地向专家查询对模型提升最有帮助的样本以减轻数据标注的代价,目的在于以尽可能少的代价获得性能尽可能高的模型。目前大多数现有的主动学习研究主要集中在样本选择策略上,尽管它们能够显著降低数据标注量,但数据采集的整体成本仍然较高,这其中有
论文部分内容阅读
监督学习通常需要大量标记样本训练模型。然而，在许多真实场景下，我们只有少量的已标记样本，以及大量的未标记样本，且标记的获取往往需要耗费大量的人力物力。主动学习通过有选择性地向专家查询对模型提升最有帮助的样本以减轻数据标注的代价，目的在于以尽可能少的代价获得性能尽可能高的模型。目前大多数现有的主动学习研究主要集中在样本选择策略上，尽管它们能够显著降低数据标注量，但数据采集的整体成本仍然较高，这其中有以下几点原因：i)模型的学习成本很高，一些潜在价值很高的数据对于当前模型过于困难，导致模型无法完全利用上，降低了标记数据的利用率。ii)传统的标注方式在某些任务上代价很高，无法高效地获得监督信息。iii)主动学习的开发代价很高，通常需要花费额外开销聘请专家来完成。为了最小化数据标注代价，本文针对上述问题进行了深入调研与探索，并取得了以下成果：
? 为了降低模型学习代价，我们提出了一种考虑学习难易度的查询策略，在主动选择样本时不仅要求样本具有较高的潜在价值，同时考虑其难易程度，使得所查样本不至于过于困难，从而让模型能够完全利用上它的信息。实验结果表明，所提出的方法能够超过先进的批量模式的主动学习方法。
? 为了降低标注代价，我们针对跨域目标检测的数据标注提出了一种以框为单位查询的新型查询方式。一方面我们查询可迁移且具有信息量的候选框，另一方面，我们将模型预测置信度较高的区域用于自监督。实验结果表明，我们提出的方法能够超过先进的跨域主动学习与目标检测主动学习方法。
? 为了降低主动学习标注样本的开发代价，我们研发了基于Python的主动学习工具包ALiPy。它不仅支持对7种不同的主动学习设置，实现了20余种先进的主动学习算法，还提供了各种工具类来辅助实现数据处理，样本查询，评估，比较和分析算法性能等。该工具包在Github上开源并有详细的说明文档，可以通过PyPI轻松安装。
其他文献
随着Galileo和北斗卫星导航系统的不断发展，GPS和GLONASS系统的持续优化，卫星导航已经处于多系统融合应用的新纪元，为各地军民生产生活提供了更多导航定位的可能性。同时，信息化、智能化时代的到来，生产生活中的各类应用也对卫星导航定位提出了更高的精确度和实时性要求。导航卫星选星是从所有可视卫星中选择最合适的卫星子集用于导航定位解算，从而避免将所有卫星用于解算带来的计算量；同时，选择的卫星子集
随着互联网规模的日益扩大，传统网络架构的局限性无法很好地满足多元化新业务所带来的通信需求。因此，如何设计新型网络架构，以从根本上解决传统网络的弊端，已成为信息领域最为迫切的研究内容之一。智慧标识网络通过灵活化的连接调度实现对网络的智慧化协同管控，是一种具备良好发展前景的新型网络架构。而由于互联网具有强大的开放性，攻击者仍然能在分析新型网络架构特征的基础上探寻新型攻击方式，网络中的安全隐患仍然存在。
随着数字媒体的不断发展，视频技术已经越来越多的应用于各个领域。但是，由于视频本身携带的数据量很大，直接应用不够现实，因此，需要在传输之前对其进行压缩。为了适应视频高分辨率的要求，视频编码技术经过了一系列发展，比如从H.264(Advanced Video Coding)到HEVC(High Efficiency Video Coding)等。针对这些编码标准的高复杂度问题，目前也有相关优化算法被提
近年来，伴随着智能技术的发展，智能化的移动机器逐渐走进人们的视野，定位技术作为移动机器人的重要技术之一，一直是人们关注的热点。目前最常用的定位系统为GPS和惯导，GPS可以实现在各种气候条件下、持续精密的导航，但受外界影响比较大，在有电磁干扰或者有遮挡的情况下不可用,惯导系统虽不受外界干扰，但会随时间的积累产生累积误差，定位的精度会受到影响。现今随着机器视觉技术的不断发展，基于视觉的定位方法，尤其
随着计算、通信和传感器技术的快速发展，大量的复杂动态系统比如自动制造系统，智能交通系统和物流系统等应运而生，它们都具有混合命令、控制、通信和信息问题的特征。由于各种信号的并发和冲突以及人为设计的运行规则，系统状态只能通过随时间异步发生的离散事件来改变。因此，这类人造系统通常被视为离散事件系统。特别地，由Ramadge和Wonham共同提出的监督控制理论为离散事件系统的控制提供了有力的支撑，其特点在
随着图像领域的飞速发展，导航系统中也渐渐开始使用计算机视觉技术。在GNSS(全球卫星导航系统)拒止条件下，面向无人机安全自主着降的任务需求，设计了一种新型合作标志，研究了目标的特征提取与跟踪方法，研究了无人机视觉导航位姿解算方法，研究了固定翼无人机着降视觉导航技术和固定翼无人机的回收技术等视觉导航应用，提出了一种使用视觉导航来修正无人机基于惯导推算的位姿累积误差的方法，最终实现了无人机的安全自主着
近年来，卷积神经网络在计算机视觉领域取得了巨大成功，其在不断提高图像分类、目标检测和图像语义分割等任务精度上限的同时，模型尺寸与运行时间也在急剧增加。由于移动端设备存在存储空间和计算能力的约束，使得现有卷积神经网络无法在这些资源受限设备上进行很好的部署和应用。在这种情况下，研究人员通过设计高效的卷积结构来代替传统网络中的标准卷积层，以达到减小模型参数量和运算量的目的，但是此类方法仍然存在模型泛化能
深度学习已经得到飞速发展,在图像识别领域,卷积神经网络的鲁棒性保证显得尤其重要。由于卷积神经网络的分布式表示特点,会对输入图像产生众多特征表示,这些特征表示中存在大量噪声信息,会严重影响网络的性能,此外由于训练数据的局限性,会影响神经网络区分非正常输入的能力。为了提高卷积神经网络的鲁棒性,我们在噪声通道选择、噪声特征过滤和防御对抗攻击三个方面分别提出了三个方法。针对噪声通道的存在而影响神经网络鲁棒
随着RNA-seq产生的读段数量日益增加，读段比对成为了一个非常耗时的任务和环节。在RNA-seq分析中，准确而又有效的读段比对一直是一个难点和挑战。许多比对算法在可容忍的时间范围内采用不同的策略来为读段寻找可能的比对位置，并且为下游分析提供大量的比对信息。但是一些转录本分析任务（如转录本定量分析）只需要得知读段在转录本上的位置即可。由于转录本不含有内含子，读段可以被连续地比对到参考转录本，而不需
传统的图像去模糊算法是通过估计模糊核的方式进行图像的盲去模糊,运行速度较慢,实际应用价值不大。受到近年来提出的图像到图像风格转换任务的启发,我们注意到图像的盲去模糊可以视为图像到图像的风格转换问题。所以本文着重于研究如何将生成对抗网络应用于图像的盲去模糊,同时还有研究如何在保证神经网络的去模糊质量的情况下,压缩模型大小和减少参数量。本文提出的减少生成对抗网络模型参数量的方法有两种思路,一种是设计用