论文部分内容阅读
作为知识表示和数据挖掘的重要工具,粒计算是解决大规模复杂问题时模拟人脑思维自然模式的一种新的理论、技术和方法,在大数据挖掘的研究中有着独特的优势。粒计算模型中的知识粒具有不确定性,它将直接影响到粒计算方法解决复杂问题的效率和精度。迄今为止,粒计算已成为智能信息处理领域中一个非常活跃的研究热点,粒计算模型中知识的不确定性度量也引起了众多学者的广泛关注。为此,本课题将运用粒计算方法的粒化策略,以知识获取为目标,在信息粒化、不确定性度量及其特征选择等方面进行深入系统的理论和方法研究,本文的工作及创新如下: (1)基于信息熵和信息粒度的不确定性度量方法 针对Shannon信息熵不能用于粗糙集和粗糙分类的模糊性度量,现有一些度量不适用于不完备决策系统,以及不确定性度量方法之间的关系和融合研究较少等问题,在相容关系的基础上,研究了不完备信息系统下的信息熵、最大一致块集信息熵、联合信息熵、条件信息熵、互信息、信息粒度,以及不完备决策系统下的条件信息熵、互信息、条件信息粒度等不确定性度量方法;采用证明与实例分析等方法论证了这些度量方法的合理性和单调性,深入探讨了它们之间的内在关系,以及它们与现有几种典型度量方法之间的关系,并给出了相关性质及定理。 (2)基于粗糙熵的不确定性度量及其特征选择方法 对于现有的不完备决策系统的特征选择方法都不同程度地存在耗时较大的问题,寻求特征选择的加速机制以解决计算耗时过大的问题。在相容关系下,基于粗糙熵提出了联合粗糙熵、条件粗糙熵、互信息等一些不确定性度量方法,论证并分析其相关性质以及度量之间的关系;在不完备决策系统中探讨上述度量方法如何刻画知识和决策的粗糙性,在完备决策系统中研究了它们与粗糙熵、信息熵等度量的内在关系;结合增量式技术,构建了扩展粗糙集约简模型;借助分解、基数排序、Hash表等数据处理技术,提出了面向不完备数据的增量特征选择算法。在UCI数据集上的实验结果可有效地验证该算法的有效性。 (3)基于邻域熵的不确定性度量及其特征选择方法 为解决传统的互信息只能够计算离散变量之间相关度的问题,基于邻域熵提出了联合邻域熵、条件邻域熵、邻域互信息、邻域条件互信息、改进的最大相关性最小冗余度等不确定性度量方法,研究了这些度量方法之间的关系;基于邻域互信息和邻域条件互信息计算特征对于分类的重要性,选择最大相关性的特征,给出特征与类标签的重要性,计算已选特征与候选特征之间的最小冗余度,有效去除冗余基因;结合顺序前向搜索策略,构建了基于邻域条件互信息的肿瘤分类特征基因选择算法。基因数据集的实验结果表明该算法选择的特征子集结果优于其他相关算法。 (4)基于粗糙粒空间的不确定性度量及其特征选择方法 为解决以近似分类为启发式信息的搜索策略未能逐步缩小搜索空间以及计算效率偏低等问题,基于信息粒化策略构建了信息粒、粒子间的偏序关系,给出粗糙粒空间、正域粒空间、非正域粒空间及粒子的求解和分解方法;在粗糙粒空间中用增量式方法计算正域空间和非正域空间,提出了粒空间约简的判定定理,探讨了粒空间约简与正区域约简之间的关系;从代数约简角度出发,构建了粗糙粒空间下新的属性重要性的递归计算方法,使启发式函数计算转化为集合基的整数运算;借助分解、基数排序、Hash表、输入排序等技术,构建了粗糙粒空间的增量式特征选择算法。通过UCI数据集的交叉验证结果表明,该算法适用于大规模数据集的知识获取。