论文部分内容阅读
基于样本的机器学习，是在系统对已知样本的响应给定的基础上，预测系统对未知样本的响应。本文根据训练集与测试集选取的相关性，将学习策略分为两类：基于离线样本的学习和基于在线样本的学习。基于离线样本的学习是指在测试集出现之前，从离线样本集上预先训练学习器，训练集和测试集的选取过程是完全独立的。而基于在线样本的学习是在测试阶段，直接从当前应用环境中选取部分样本来训练学习器，训练集和测试集的选取过程存在一定相关性。以视觉计算为应用背景，研究了离线和在线样本学习中的若干关键问题，对现有的基于样本学习算法做出了改进，并探讨了如何对两者进行结合。本文的主要贡献有：
1.研究了如何对现有基于离线样本学习的目标检测算法做出改进，使得大样本训练成为可行，并获得泛化能力更强的特征，以提高学习器的推广能力。这是通过一种改进的基于动态级联的Boosting训练结构来实现的。通过对训练样本使用Bootstrap技术，有效利用了海量的离线样本。通过设计有效的启发式特征搜索算法，获得了判别能力更强的高阶特征。提出新的基于切分—更新树桩的弱分类器学习算法，提高了弱分类器的判别能力，加快了学习过程的收敛速度。通过采用多实例阈值调整算法，进一步提高了检测器的检测速度。提出了训练过程的并行结构设计方案，使得在分布式和多处理器环境下训练速度得以提高。改进后的级联检测器在检测性能、检测速度和训练速度等方面都有所提高。
2.研究了在基于在线样本学习的交互式学习方法中，如何控制学习过程的复杂度，并获得对当前应用有效的判别能力。提出了一种新的基于图割的交互式图像分割方法。该方法将图像的纹理、色彩、边缘等多种特征通过一个概率模型结合在一起，并利用在线样本训练类别统计模型。其中纹理和色彩用以Texton为基的直方图来建模，并用Fisher判别准则来对特征空间进行降维。最后利用图割方法快速求解最优分割。该方法适用于多种图像的分割，并且有较快的速度。
3.研究了如何结合离线和在线样本学习来解决视频跟踪问题。提出了一种结合离线和在线样本学习的多目标跟踪算法框架，并以电视转播足球赛视频中球员的检测、分类和跟踪为例，验证了其有效性。结合背景模型和离线学习的级联Boosting检测器实现目标的检测。基于离线检测模型提供的在线样本，通过特征色直方图和层次聚类方法学习在线目标类别模型。建立了结合离线和在线推断证据的后验概率模型，并推导了各种MCMC跳转的建议分布比。提出一种有效的数据驱动方法，加快了MCMC计算的收敛速度。该框架的提出有效地提高了跟踪算法的鲁棒性和广泛适用性。