【摘 要】
：
不同的误差估计方法对应着不同的算法稳定的概念,现在讨论较多的误差估计方法是变一误差估计和排一误差估计.本文主要考虑了变一误差估计的情况,提出了几个变一误差估计下算
论文部分内容阅读
不同的误差估计方法对应着不同的算法稳定的概念,现在讨论较多的误差估计方法是变一误差估计和排一误差估计.本文主要考虑了变一误差估计的情况,提出了几个变一误差估计下算法稳定的定义,在这些算法稳定的定义下得到了机器学习的推广误差或相对误差的界,再由这些界来研究了机器学习的推广性能.在第一部分,主要介绍了推广误差,VC维及本文的研究背景.在第二部分,通过对变一误差估计下算法稳定定义的研究,引进了变一误差估计下均值稳定的概念,并讨论了它与重叠稳定,CV稳定,弱假设稳定三种条件比较弱的算法稳定之间的关系.在第三部分,由变一误差估计下逐点假设稳定,重叠稳定和弱误差稳定定义了联合算法稳定,再由广义的McDiarmid不等式得到了联合算法稳定下机器学习推广误差的界.最后把这个界与训练稳定下推广误差的界进行了比较.为进一步研究算法稳定框架下分类机器学习的推广性能,在第四部分,我们不是直接去界定机器学习的推广误差,而是先在重叠稳定下得到了分类机器学习相对误差的界,再由这个界讨论了重叠稳定下分类机器学习的推广性能.为研究机器学习在算法稳定框架下经验风险最小化原则一致性的条件.在第五部分,我们首先提出了变一误差估计下不依赖于样本分布的CV<,co>稳定,PH<,co>稳定和ECO<,err>稳定的定义,证明了CV<,co>稳定和PH<,co>稳定是等价的.然后由CV<,co>稳定,ECO<,err>稳定定义了CO稳定,证明了CO稳定不仅是变一误差估计下经验风险最小化原则一致性的充要条件,而且是机器学习算法具有推广性能的充分条件.
其他文献
本文主要运用了反证法、usco和单位分解的方法,分别研究了锥扰动下向量优化问题弱有效解的上半连续性、锥意义下有效解的连续性以及含参数最优化问题解的通有唯一性.本文共分
基于特征匹配的入侵检测系统(Intrusion Detection System-IDS)由于检测效率高,误报率低的特性而被大多数商用IDS系统所采用.但是,这种系统存在的主要问题是人工生成的专家知
关于非线性泛函分析中不动点理论的研究已经引起了很多人的兴趣.与此同时也取得了丰硕的成果，其中包括Caristi不动点定理和与其相关的Ekeland变分原理.这两大定理为研究非线性
为确保松软岩层的巷道支护质量,降低维修率,通过对松软岩层的岩性分析,支护方案的比较选择,以及对锚网喷+型钢+锚索+注浆联合支护的应用实践,有效地控制了围岩的变形,确保支
本文讨论两类变时滞微分方程的全局吸引性。 第一章，首先介绍了两类变时滞微分方程的研究背景和现状，总结了这两类时滞微分方程全局吸引性的充分条件，其次介绍了本文的研究内
为了方便研究一般状态的跳过程,本文引进了转移概率密度函数,并证明了其存在性及有关性质,另一方面还利用转移概率密度函数来研究对偶过程,并证明了具有不变测度的跳过程其对
《中共中央国务院关于进一步加强和改进未成年人思想道德建设的若干意见》要求:“学校要完善班主任工作制度,高度重视班主任工作,选派思想素质好、业务水平高、奉献精神强的
中国人民银行南京分行孙工声行长在人民银行南京分行2011年工作会议上指出,今年江苏省将大力推进直接融资,继续开展“直接融资推进年”活动,实施债务融资工具余额倍增计划,争
本文首先在不具线性结构的H-空间和拓扑半格空间中进一步研究了KKM点集的稳定性.其次,运用了通用的方法,研究了锥意义下向量优化问题的有效解的通有稳定性.另外,仅利用于序关