论文部分内容阅读
贝叶斯阴阳(Bayesian Ying-Yang，简称BYY)和谐学习为有限混合模型提供了一种新的学习机制，能够在基于样本数据的参数学习中自动地完成模型选择功能。本文首先引入基于BYY和谐学习原则的自适应梯度算法来实现有限混合高斯模型的自动模型选择和参数学习，并将该算法应用到Iris数据、Wine数据的分类，以及非监督彩色图像分割。另一方面，我们将这一算法应用到径向基函数(RBF)网络的学习并且拓广了该网络结构。实际中，RBF网络是一种重要的前馈型神经网络。由于其结构简单，学习速度快，得到广泛地重视和应用。然而，在RBF网络的设计中，如何设计隐层单元，特别是如何确定隐层单元的个数，依然是一个相当困难的问题。为了解决这一问题，我们首先将传统RBF网络中高斯核函数推广为一般的高维高斯(即正态)概率密度函数。由于高斯概率密度函数包含了高斯核函数，这种广义的RBF网络具有更强的逼近能力。这样，我们就可根据自适应梯度算法对于输入样本数据的学习结果来确定出RBF网络中所需要的隐层单元个数及其初始参数，并对于RBF网络做进一步的训练。通过对于一些典型的混沌时间序列的学习和预测，我们验证这种广义RBF网络和学习方法的可行性和有效性。