基于数据相关性的代价敏感特征选择

• 作 者: 余胜龙
• 出 处: 闽南师范大学
• 发表日期: 2018年01期
• 关键词: 代价敏感学习 特征选择 粗糙集 邻域 ?2 1-范数

在大数据时代,特征选择在数据挖据和机器学习中占有不可或缺的地位。传统的特征选择分类算法是通过获得高分类精度来说明算法的有效性。然而,在现实中,数据样本的获取具有不同的价格,错误分类也会产生相应的惩罚代价。基于此,本文从数据相关性出发重点研究了基于代价敏感学习的特征选择方法,具体研究内容包括:1.提出了一种基于样本邻域保持的代价敏感特征选择算法。首先,根据样本的邻域信息计算得到样本的邻域矩阵;然后,根据邻域矩阵及代价矩阵来计算每个特征的重要度并得到特征选择算法。2.提出了一种结合粗糙集和拉普拉斯打分的代价敏感特征选择算法。首先,利用粗糙集计算出所有特征的核;然后,使用三种不同的分布得到测试代价;最后,结合拉普拉斯打分和测试代价来计算特征重要度并得到特征选择算法。3.提出了一种基于?_2,1-范数的代价敏感特征选择算法。首先,通过权衡测试代价及误分类代价来构造损失函数;其次,利用?₂-范数保证模型的旋转不变性和对离群点的鲁棒性;然后,通过增加正交约束条件来保证每个特征的独立性;最后给出了模型的求解的近似算法并证明了其收敛性。