基于支持向量机的增量学习研究与实现

• 作 者: 马敏敏
• 出 处: 中国石油大学(华东)
• 发表日期: 2004年期
• 关键词: 支持向量机 增量学习 网页分类 超圆锥模型 核函数

网络信息的爆炸给人们带来了Web时代的新挑战,网页分类是组织和利用海量互联网信息的一种有效途径。在已出现的多种网页自动分类算法中,支持向量机学习能力出色,已成为机器学习领域的研究热点。经典的支持向量机训练算法不支持增量学习,若重新对所有样本进行训练非常浪费时间。因此,对支持向量机增量学习的研究具有重要的理论意义和实用价值。介绍了支持向量机的发展、原理和相关技术,分析了目前支持向量机常用的训练算法和增量学习的多种方式,阐述了支持向量机核函数的原理和机制,讨论了全局核函数和局部核函数的优缺点。针对增量学习中筛选出的样本点信息含量不足或过于冗余的问题,提出基于超圆锥结构的支持向量机增量学习算法HC-SVM,考虑到支持向量的几何分布特征,利用超圆锥模型选出的样本点信息,能够有效进行增量学习,提高分类效率。由于局部核函数的值只受到相距很近数据点的影响,有很好的学习能力,而全局核函数的值会受到距离较远数据点的影响,有很好的推广泛化能力。针对局部核函数学习能力良好但泛化能力差的缺点,提出结合全局核函数来构造新联合函数的方法,使其能够结合两类核函数的优点,更好地适应增量学习,提高分类准确率。最后,将改进后的训练算法应用到网页分类系统中,并对改进算法进行了实验对比和性能分析。实验数据表明,本文算法具有更高的分类效率和准确率。