优化极限学习机的序列最小优化方法

• 作 者: 丁晓剑 赵银亮
• 机 构: 西安交通大学电子与信息工程学院
• 出 处: 西安交通大学学报
• 发表日期: 2011年6期
• 关键词: 极限学习机 支持向量机 序列最小优化 extreme learning machine support vector machine sequential
• 基金项目: 国家高技术研究发展计划资助项目（2008AA01Z136）.

针对传统二次规划求解方法训练优化极限学习机（OMELM）存在速度慢和效率低的问题,提出了单变量迭代序列最小优化（SSMO）算法.该算法通过在框式约束中优化拉格朗日乘子来实现目标函数的最小化：首先在初始化拉格朗日乘子中选择使目标函数值下降最大的拉格朗日乘子,将该拉格朗日乘子作为目标函数的唯一变量;然后求解目标函数的最小值并更新该变量的值;重复这个过程直到所有的拉格朗日乘子都满足二次规划问题的Karush-Kuhn-Tucker条件为止.实验结果表明：SSMO算法只需调节很少的参数值便可得到足够好的泛化性能;