论文部分内容阅读
摘 要：故障模式识别是模拟电路故障诊断中非常重要的一环，最开始运用最为广泛的分类器是支持向量机与神经网络，但随着模拟电路的复杂度越来越高，这两种分类器的缺点也变得越来越明显，不能满足人们的需求，为此，研究出性能更优、诊断效率更高的分类模型变得迫在眉睫。本文将介绍使用最小二乘支持向量机作为分类器对模拟电路进行故障模式识别，并选用组合核函数作为分类器的核函数，对于最小二乘支持向量机系数的优化选取，将采用混沌粒子群算法，在粒子群算法中加入混沌理论，增加种群的多样性和粒子搜索的遍历性，避免陷入局部最优解，加快全局收敛，得到最优系数。
关键词：故障模式识别；最小二乘支持向量机；组合核函数；混沌粒子群算法
一、组合核LSSVM
（一）LSSVM特点
最小二乘支持向量机（Least Square Support Vector Machine，LSSVM）是由支持向量机转化改进得来的，本质上也是支持向量机。支持向量机遵循的是结构风险最小化原则，样本数目的增多不会导致结构复杂化，但它需要求解复杂的二次规划问题。为了使得分类器训练时既遵循结构最小化原则，又避免求解复杂的二次规划问题，提出了只需求解线性方程组的最小二乘支持向量机，简化了求解过程。
（二）组合核LSSVM模型
由公式可得LSSVM的决策函数：
决策函数中最为重要的就是核函数的选取，不同的核函数具有不同的优势，但同时也会有缺陷。核函数主要分为两种，一种是局部性核函数，另一种是全局性核函数。较为典型的全局性核函数是d阶多项式核函数，它的定义如下：
多项式核函数的值随x的取值变化较快，对全局的函数值的影响都比较大，这样的核函数泛化能力強，但最后的分类精度不会太高。
高斯径向基核函数是比较经典的局部性核函数，其定义如下：
该函数对分类器的分类精度影响较大，但泛化能力相对较弱。
由以上分析可知，单个的核函数具有单一的功能，不能实现既快速又准确地对故障进行识别，于是利用这两个核函数的优势，给每个核函数一个权重系数，形成组合核函数，最大化地提高分类性能，组合核函数的定义如下：上式中0<λ<1，如果λ=0或者1，就为单核核函数。
二、CPSO优化算法
惯性权重是控制粒子前面搜寻速度对粒子现在搜寻速度的影响的。惯性权重越大，粒子搜寻的范围越广，就越有可能找到全局最优解，但同时也会导致搜索较粗糙，搜寻到的参数精度太低。若减小w，搜寻范围减小又容易陷入局部最优解。因此为了得到更正确更有效的解，要控制好惯性权重。而在PSO中，由于惯性权重具有随机性，不能保证粒子在相空间的优化遍历。因此，PSO存在早熟收敛和局部寻优能力差等特点。为了克服这个问题，提出了混沌粒子群优化（Chaotic Particle Swarm Optimization，CPSO）算法，将著名的Logistic方程被应用到PSO中，Logistic方程定义如下：
此外，将混沌映射的遍历性，随机属性和对初值的敏感性等特点引入到PSO中，从而提高了全局收敛性。此时参数w和r1、r2满足下面的公式：
混沌粒子群优化的基本思想：
（1）为了能在大量初始群体中找出最优的初始群体，采用混沌序列初始化粒子的位置和速度，达到了既保持粒子群算法所特有的随机性，又提高粒子搜索的遍历性和种群的多样性的效果。
（2）把当前搜索产生的位置当作一个基础产生新的混沌序列，此时的混沌序列中的最优位置就是粒子群更新的一个位置。使用混沌序列的搜索算法，每一次迭代都产生许多局部最优邻域点，以此避免陷入局部最优。
三、混沌粒子群优化LSSVM参数
本文LSSVM模型采用的是组合核函数，所以需要同时优化四个参数即惩罚参数C，高斯径向基核函数宽度σ，多项式核参数d以及系数λ，因此提出了具有更好优化性能的CPSO算法，在LSSVM模型中寻找最优参数。评价标准用均方误差表示：
CPSO算法优化LSSVM模型参数的具体优化步骤如下：
（1）初始化参数：种群大小，最大迭代次数，学习因子以及惯性权重等。
（2）选择适应度函数：利用适应度函数对分类器性能进行评价。
（3）初始化一个向量，并将这个向量通过Logistic方程产生混沌序列。
（4）将混沌序列转化为组合核LSSVM模型参数值范围内。
（5）计算并比较适应度值获得每个粒子迭代过程中的最优值。
（6）如果整个种群的全局最优值收敛了或达到最大迭代次数，则转到步骤（10）。
（7）根据前面的公式更新每个粒子的速度和位置。
（8）比较每个粒子的最佳位置。如果现在粒子的最佳适应度值优于前面粒子最佳适应度值，则用现在的值作为整个种群的最佳适应度值。
（9）指定终止条件。如果满足终止条件，则结束，返回当前粒子最优的结果。否则，返回步骤（5），直到满足终止条件。
（10）获得LSSVM模型的参数值。
四、小结
本文提出了基于组合核CPSO-LSSVM的分类模型。首先考虑到SVM与神经网络各自的缺点，SVM遵循结构最小化原则，但需要求解复杂的二次规划问题，而神经网络遵循经验最小化原则，训练数目越多，网络越复杂，LSSVM既遵循结构最小化原则，又不需要求解复杂的二次规划问题，因此选用了LSSVM分类器。核函数是分类器中最为重要的部分，为了平衡分类器的分类精度与泛化能力，用高斯径向基核函数与多项式核函数的组合核函数作为分类器的核函数。为了避免PSO寻参时陷入局部最优，并且加快全局收敛，在PSO中加入混沌序列，提高种群搜索的多样性和粒子搜索的遍历性，使用CPSO算法获得分类器的最优参数。
作者简介：杨苏娟，南京邮电大学通信与信息工程学院。
关键词：故障模式识别；最小二乘支持向量机；组合核函数；混沌粒子群算法
一、组合核LSSVM
（一）LSSVM特点
最小二乘支持向量机（Least Square Support Vector Machine，LSSVM）是由支持向量机转化改进得来的，本质上也是支持向量机。支持向量机遵循的是结构风险最小化原则，样本数目的增多不会导致结构复杂化，但它需要求解复杂的二次规划问题。为了使得分类器训练时既遵循结构最小化原则，又避免求解复杂的二次规划问题，提出了只需求解线性方程组的最小二乘支持向量机，简化了求解过程。
（二）组合核LSSVM模型
由公式可得LSSVM的决策函数：
决策函数中最为重要的就是核函数的选取，不同的核函数具有不同的优势，但同时也会有缺陷。核函数主要分为两种，一种是局部性核函数，另一种是全局性核函数。较为典型的全局性核函数是d阶多项式核函数，它的定义如下：
多项式核函数的值随x的取值变化较快，对全局的函数值的影响都比较大，这样的核函数泛化能力強，但最后的分类精度不会太高。
高斯径向基核函数是比较经典的局部性核函数，其定义如下：
该函数对分类器的分类精度影响较大，但泛化能力相对较弱。
由以上分析可知，单个的核函数具有单一的功能，不能实现既快速又准确地对故障进行识别，于是利用这两个核函数的优势，给每个核函数一个权重系数，形成组合核函数，最大化地提高分类性能，组合核函数的定义如下：上式中0<λ<1，如果λ=0或者1，就为单核核函数。
二、CPSO优化算法
惯性权重是控制粒子前面搜寻速度对粒子现在搜寻速度的影响的。惯性权重越大，粒子搜寻的范围越广，就越有可能找到全局最优解，但同时也会导致搜索较粗糙，搜寻到的参数精度太低。若减小w，搜寻范围减小又容易陷入局部最优解。因此为了得到更正确更有效的解，要控制好惯性权重。而在PSO中，由于惯性权重具有随机性，不能保证粒子在相空间的优化遍历。因此，PSO存在早熟收敛和局部寻优能力差等特点。为了克服这个问题，提出了混沌粒子群优化（Chaotic Particle Swarm Optimization，CPSO）算法，将著名的Logistic方程被应用到PSO中，Logistic方程定义如下：
此外，将混沌映射的遍历性，随机属性和对初值的敏感性等特点引入到PSO中，从而提高了全局收敛性。此时参数w和r1、r2满足下面的公式：
混沌粒子群优化的基本思想：
（1）为了能在大量初始群体中找出最优的初始群体，采用混沌序列初始化粒子的位置和速度，达到了既保持粒子群算法所特有的随机性，又提高粒子搜索的遍历性和种群的多样性的效果。
（2）把当前搜索产生的位置当作一个基础产生新的混沌序列，此时的混沌序列中的最优位置就是粒子群更新的一个位置。使用混沌序列的搜索算法，每一次迭代都产生许多局部最优邻域点，以此避免陷入局部最优。
三、混沌粒子群优化LSSVM参数
本文LSSVM模型采用的是组合核函数，所以需要同时优化四个参数即惩罚参数C，高斯径向基核函数宽度σ，多项式核参数d以及系数λ，因此提出了具有更好优化性能的CPSO算法，在LSSVM模型中寻找最优参数。评价标准用均方误差表示：
CPSO算法优化LSSVM模型参数的具体优化步骤如下：
（1）初始化参数：种群大小，最大迭代次数，学习因子以及惯性权重等。
（2）选择适应度函数：利用适应度函数对分类器性能进行评价。
（3）初始化一个向量，并将这个向量通过Logistic方程产生混沌序列。
（4）将混沌序列转化为组合核LSSVM模型参数值范围内。
（5）计算并比较适应度值获得每个粒子迭代过程中的最优值。
（6）如果整个种群的全局最优值收敛了或达到最大迭代次数，则转到步骤（10）。
（7）根据前面的公式更新每个粒子的速度和位置。
（8）比较每个粒子的最佳位置。如果现在粒子的最佳适应度值优于前面粒子最佳适应度值，则用现在的值作为整个种群的最佳适应度值。
（9）指定终止条件。如果满足终止条件，则结束，返回当前粒子最优的结果。否则，返回步骤（5），直到满足终止条件。
（10）获得LSSVM模型的参数值。
四、小结
本文提出了基于组合核CPSO-LSSVM的分类模型。首先考虑到SVM与神经网络各自的缺点，SVM遵循结构最小化原则，但需要求解复杂的二次规划问题，而神经网络遵循经验最小化原则，训练数目越多，网络越复杂，LSSVM既遵循结构最小化原则，又不需要求解复杂的二次规划问题，因此选用了LSSVM分类器。核函数是分类器中最为重要的部分，为了平衡分类器的分类精度与泛化能力，用高斯径向基核函数与多项式核函数的组合核函数作为分类器的核函数。为了避免PSO寻参时陷入局部最优，并且加快全局收敛，在PSO中加入混沌序列，提高种群搜索的多样性和粒子搜索的遍历性，使用CPSO算法获得分类器的最优参数。
作者简介：杨苏娟，南京邮电大学通信与信息工程学院。