论文部分内容阅读
当自变量X的维数相对于样本量越来越大,甚至远远大于样本量时,传统的统计方法将无法直接应用。回归中的降维就是寻求自变量的一些线性组合使之能充分表达自变量和响应变量之间的回归信息。而充分降维理论为回归中降维方法的研究提供了新的视角。典型的充分降维方法如切片逆回归(SIR,Li1991),主Hessian方向(pHd,Li1992)。本论文主要内容可以分为三部分。
论文的第一部分我们提出了一种新的充分降维方法称之为累积Hessian方向(CHD)。现有的许多充分降维方法都涉及调整参数的选择,比如切片估计中涉及切片数的选择,核光滑中涉及窗关的选择,而我们所提出的方法完全不涉及调整参数的选择。pHd方法是采用给定X时Y的条件期望的Hessian矩阵的均值作为核矩阵,而CHD方法则是采用给定X时Y的条件分布的Hessian矩阵的平方的均值作为核矩阵。因此CHD方法能够估计中心均值子空间以外的方向。当自变量维数趋于无穷大时,我们得出了CHD估计的渐近正态性。通过和现有方法的模拟和实际数据实验结果比较进一步证明了CHD方法的有效性。另外,由OLS方法得到启发,我们给出基于一阶矩的充分降维方法,记为CHD-I。并提出混合的CHD方法称之为CHDα方法。通过模拟发现CHDα能够结合一阶矩方法和两阶矩方法的优点,更有效地找出CDRs中的方向。最后我们讨论了降维中经常涉及的两个条件:线性条件和常数方差条件。线性条件是相对较弱的条件,而常数方差条件是相对较强的限制条件。在CHD方法中也用到了常数方差条件。我们指出在常数方差条件不满足时,CHD方法有可能找出CDRs之外的方向。由Cook and Li(2002)的文章得到启发,类似于IHT方法,我们提出了迭代的CHD方法。该方法只要满足线性条件即可。
在论文的第二部分,我们提出了正则化累积Hessian方法估计。常见的降维方法估计过程可以归结为核矩阵的求解,以及相应的特征值分解过程。对于总体来说前K个特征向量即为所求的降维主方向,而非零特征值个数即为结构维数K。通过该过程得到的降维变量是原始自变量的线性组合,系数是非稀疏的,在应用中不容易解释其涵义。而且对于样本估计来说,第p—K个特征值不为0,而是非常小的数。通过将核矩阵的奇异值分解问题转化为回归形式的最小二乘问题,然后对目标施加惩罚得到稀疏化的奇异值,从而估计出结构维数。在Zhu et al.(2010)所提出的稀疏化特征值分解方法基础上,提出了更具有一般性的稀疏化SVD方法。同时给出了n
其他文献
地理环境是人类社会赖以生存的载体，也是人类生产活动的场所。千百年来，地理环境对人类社会发展和经济增长的影响作用，一直吸引着众多领域的研究人员，许多专家学者均对此有过重要
软件互联网产业在中国的迅猛发展推动了网络软件产业的发展互联网产业的，因此认识互联网软件产业的发展和现状和把握互联网产业的发展规律，对于互联网软件产业的发展尤为重要。
邮政储蓄银行作为一类特殊的金融机构，是我国金融体系的重要组成部分。2007年3月，作为邮政体制改革的重要产物，中国邮政储蓄银行正式成立，成立后面临着股权结构单一、政策性和商
苏霍姆林斯基说过：“在人的心灵深处，都有一种根深蒂固的需要，这就是希望感到自己是一个发现者、研究者、探索者。而儿童的精神世界中，这种需要特别强烈。” 教师在课堂上充分以学生为主体，精心设计丰实有效的细节，多给学生提供机会，经常通过启发性的语言，使学生感受到自己是学习的主人，增强参与的主动性，不断的思考、探索讨论、交流，在经历知识的形成过程中，不断体验成功的快乐。 【案例】：苏教版四年级上册
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
2005年开始的股权分置改革为我国资本市场的发展翻开了一个新的篇章，从制度上解决了非流通股的上市流通问题。随着个人投资者、机构投资者和上市公司数量的不断增加，主板、中小
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
【摘 要】:作为教师，我们的教育观念、教育思想也应该必须与之相适应。师生之间应平等民主、互相尊重。在班级的管理中应体现“以人为本”的现代教育思想，实行自主管理，科学管理，同时，和谐的师生关系也是培养一个良好班集体的重要前提。 【关键词】:班级管理 后进生 日常管理 中图分类号：G637 文献标识码：A 文章编号：1003-8809（2010）05-0215-01 社会在发展，学生在变化
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥