流形学习中的若干问题研究

• 作 者: 高小方
• 出 处: 山西大学
• 发表日期: 2011年01期
• 关键词: 流形学习 非线性维数约简 ISOMAP 切空间 动态邻域 D-ISOMAP P-ISOMAP 本征维数 等维度独立多流形 DC-ISOMAP 增量学习 DKI-

流形学习是近年来机器学习与数据挖掘中的一个新的研究热点,其本质在于根据有限的离散样本学习和发现嵌入在高维空间中的低维光滑流形,从而揭示隐藏在高维数据中的内在低维结构,以实现非线性降维。本论文围绕流形学习中邻域图建构和增量学习的若干问题展开研究,主要包括动态邻域构建、流形上“孤立点”的扩展、等维度独立多流形的分解一组合以及批量处理新数据的算法。具体来说,本论文的创新之处在于：1.提出了基于采样密度和流形曲率的动态邻域算法。该算法能够更准确地重构流形的拓扑结构,有效地解决“短路”问题以及ISOMAP不能处理非凸数据的问题。基于人造数据和实际数据的实验结果都验证了该算法能够有效地得到流形数据的低维表示,且提高分类器的平均分类率。2.提出了基于动态邻域扩展切空间的P-ISOMAP算法。该算法主要适用于在流形边缘或者采样稀疏部位由于采样不均衡造成的“孤立点”数据。基于人造数据和实际数据的实验结果说明,P-ISOMAP算法通过扩展切空间的方法有效地解决了“孤立点”造成的“短路”问题,提高了动态邻域算法的能力。3.提出了基于等维度独立多流形的DC-ISOMAP算法。该算法能够准确地分解等维度独立多流形,有效地转化并组合各子流形的局部低维嵌入,实现了等维度多流形的非线性维数约简。基于人造数据和实际数据的实验结果都验证了该算法的有效性。4.提出了批量增量学习算法DKI-ISOMAP。该算法能够有效地实现大批量新增样本数据的增量学习,在损失较小精度的前提下大幅降低运行时间,实现了邻域图、测地距离矩阵和低维嵌入结果的更新,提高了实际应用价值。本论文的研究成果将进一步丰富流形学习的算法研究,为图像识别、Web信息检索、生物医学等相关领域的大规模数据处理和数据流处理提供了新的技术支持。