论文部分内容阅读
数据挖掘是利用分析工具从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取出隐含在其中、事先未知、潜在有用的信息和知识的过程，建立数据间关系模型，用其做出预测，从而为决策者提供辅助。决策树是一种常用的分类模型，并以其能直接体现数据特点，分类效率高、速度快、理解性好等特点在数据挖掘及其它领域中被广泛使用；粗糙集理论是一种处理不精确、不确定和不完备信息的有效方法，随着其在各领域中的成功应用，引起各国广大学者的关注。 本文围绕决策树和粗糙集理论进行了相关的研究和创新，主要内容包括： 首先，对决策树、粗糙集理论和粗糙集中信息熵的表现形式进行了系统的研究，分析了信息熵与粗糙集理论中上、下近似之间的关系。考虑到经典的ID3算法用求熵的方法选择节点分裂属性时没有考虑到噪声的影响，对噪声比较敏感，而可变精度粗糙集理论对噪声有很好的抑制作用，所以，结合可变精度的思想对ID3算法进行了改进，使其更能适应噪声比例较大的数据集，更加符合实际要求。 其次，粗糙集理论中的属性约简方法可以在不影响分类能力的前提下对数据集进行简化，为此，提出了一种基于属性重要性概念的启发式的属性约简算法。 而后，用提出的基于属性重要性的属性约简方法对数据集进行简化，以改进后的ID3算法为建树算法，根据建树算法的特点选择了基于期望误分率的后剪枝算法为树的剪枝算法，设计了一个分类器；之后，用UCI数据库中的多个数据集为实验数据进行了模拟实验，实验结果表明，这种改进后的决策树生成算法在抑制噪声方面要优于改进前的ID3算法，其实用性更好。 最后，对论文工作做了总结、分析了存在的问题，指出了下一步的工作。