基于核主成分回归的多重共线性消除问题研究

• 作 者: 郭媛媛
• 出 处: 河北联合大学
• 发表日期: 2014年01期
• 关键词: 多重共线性 主成分回归 核函数 KPCA

无论是在经济、工商管理、社会科学，还是在工程技术、医学、生物科学中，回归分析都是一种普遍应用的统计分析与预测技术。在回归分析中，当自变量间存在多重共线性问题时，常会导致回归系数的估计受到严重影响，估计方差扩大，回归模型的稳定性被破坏，因此消除多重共线性就是回归分析中系数估计的一个重要环节。目前常用的解决多重共线性问题的方法主要有岭回归（Ridge Regression）、主成分回归（PCR）和偏最小二乘回归（PLSR），它们都是针对线性回归中存在的多重共线性来解决的，对于现实社会中错综复杂的非线性回归中存在的共线性却很少提及。论文总结了目前解决多重共线性问题已有的研究及处理方法。介绍了核方法及核主成分回归的相关理论。从非线性的角度来考虑，提出了用核主成分回归方法来处理多重共线性问题，并给出了核主成分回归法消除共线性的的具体实施步骤。最后通过数据模拟与实证研究发现，由于核主成分回归法借鉴主成分分析的思想，各主成分之间相互正交很好地避免了多重共线性问题，并且只要选取合适的核函数及核参数，往往提取一个核主成分的累计贡献率就能达到90%以上，提取效果明显优于主成分回归，特别是处理的解释变量关系复杂且数量较多时，核主成分回归方法更能很好地消除共线性对建模准确性与可靠性带来的危害。