APP下载

基于RBF神经网络的自回归系统辨识模型

2011-12-19谢成清

关键词:高斯径向现象

谢成清, 夏 洪, 朱 立

(东华理工大学机械与电子工程学院,江西抚州 344000)

基于RBF神经网络的自回归系统辨识模型

谢成清, 夏 洪, 朱 立

(东华理工大学机械与电子工程学院,江西抚州 344000)

根据神经网络能以任意精度逼近任意非线性连续函数的特点,通过径向基函数神经网络构建非线性动态系统的辨识模型。针对该模型输入值超出径向基函数的映射区域时将导致系统辨识输出值为零的现象,提出了一种基于改进径向基函数结构的自回归系统辨识的方法,有效地消除了零现象。这使得自适应辨识模型在较大的输入向量下能够逼近实际系统的输出,从而提高了系统辨识的鲁棒性。该方法的可行性得到了仿真验证。

径向基函数神经网络;零现象;自回归辨识模型

系统辨识是输入输出数据之间的非线性映射过程,而径向基函数神经网络(Radical Basis Function Neural Network,RBF NN)具有全局最佳逼近能力,且收敛速度较快,因此特别适合于作为非线性系统辨识的工具(阮晓钢,2006;Rommel et al.,2007;徐辉等,2001)。笔者采用基于径向基函数神经网络的外输入非线性自回归(Nonlinear Autoregressive with Exogenous Input,NARX)辨识模型对非线性动态系统进行辨识。在实验过程中发现,当被辨识系统的输入值超出了RBF NN的隐含层高斯径向基函数有效映射区域时,可能出现辨识模型输出值为零的现象。

为了能够辨识输入值较大的非线性动态系统,提出了对径向基函数结构进行改进的方法(Yu et al.,2007),即向径向基函数结构中加入参数a,b;当RBF NN输入值超出了径向基函数的映射区域时,自适应调整参数a,b大小,使RBF NN输入值保持在高斯径向基函数有效映射区域内。

1 RBF NN用于系统辨识存在问题及解决方法

RBF NN用于系统辨识的实质是选择一个合适的RBF NN结构以及权值来逼近实际系统的等价模型,其典型结构如图1。

图1RBF NN结构Fig.1 The RBF NN structure

n为输入层节点数,N为隐含层节点数,m为输出层节点数,Wij为隐含层至输出层的权值,RBF NN输出可用如下方法计算:

本文取RNF NN隐含层空间的径向基函数为高斯径向基函数,计算式如下:

其中x为网络的输入值,cj,σj分别为高斯径向基函数的中心矢量和基宽度。由于高斯径向基函数越宽,对网络输入的覆盖范围越大,敏感性越差(输入值x远离中心矢量cj时,高斯径向基函数输出值变化不明显,且趋于0);高斯径向基函数越窄,对网络输入的覆盖范围越小,敏感性越好。同时,RBF NN的输入值与cj越接近,则以cj为中心点坐标的高斯径向基函数对该输入的敏感性越好,反之就越差。因此,当RBF NN输入值x远离cj时,高斯径向基函数敏感性差,导致RBF NN输出值趋于0;又由于RBF NN的参数都初始化为0,因此,整个训练过程都是0的迭代过程,网络参数得不到更新,从而导致0现象产生。

根据RBF NN输入值的范围,设定网络参数中心矢量cj和基宽度σj;但对未知的RBF NN的输入值远离中心矢量cj时,辨识模型输出还是可能存在为0的现象。因此,辨识模型缺乏通用性、鲁棒性和自适应性。

本文提出一种解决办法:在隐含层空间把网络输入值乘以一个小于1的适当系数a,并且基宽度乘以一个大于1的适当系数b,使RBF NN输入值在高斯径向基函数有效映射区域内,把高斯径向基函数改成如下通用式:

网络输入向量的幅度值x与a成反比,与b成正比;当x比cj较大时,通过a的作用使处理后的网络输入值x接近cj。因此,改进的径向基函数提高了基于RBF NN的自回归系统辨识非线性映射能力。

2 基于RBF NN的NARX模型

NARX模型的非线性动态系统应用范围非常广。采用它对非线性动态系统进行系统辨识(叶世伟等,2007)。被辨识系统的输出由n阶延时单元反馈到NARX模型的输入端,同时在k时刻的输出也依赖于过去的m时刻的输入,基于RBF NN的NARX自适应系统辨识模型如图2。

图2NARX系统辨识模型Fig.2 The NARX system identification model

在不考虑实际系统的误差时,NARX模型输出量可如下公式计算:

其中,f(·)是一未知的非线性函数,若用RBF NN来实现这一非线性映射过程,则形成了基于RBF NN的NARX模型。其目的是训练出一个最佳逼近实际系统输出的RBF NN,其模型如图3。

图3 基于RBF NN的NARX模型Fig.3 The NARX model based on RBF NN

由于本文只讨论李亚普诺夫意义下稳定的非线性动态系统,对于这种系统,基于RBF NN的NARX系统辨识是收敛的。

3 基于RBF NN的自适应辨识算法

辨识过程就是使用基于RBF NN的NARX模型的多输入-单输出关系逼近被辨识系统的单输入-单输出关系。用随机梯度方法对RBF NN进行训练(庞中华等,2009),学习算法为最小均方(Least Mean Square,LMS)。受到训练的网络参数包括权值w、中心值cj、中心宽度σj,a,b,其中w,cj,σj初始化为0,a,b初始化为1。为了加快收敛速度,加入了动量项。RBF NN的输出如下表示:

其中,η为学习效率(η>0),α为动量项因子(α∈[0,1))。反复训练RBF NN,直到辨识模型输出值为0的现象消失为止。

4 对0现象和改进的方法进行验证

以下式为例,对该系统进行辨识。

以u2(k)=8*cos(0.006*k*π)作为该系统的输入。当高斯径向基函数取为式(2)时,辨识结果出现了0现象,如图4a。当高斯径向基函数取为式(3)时,NARX辨识模型输出值无0现象,如图4b。

图4 消除0现象Fig.4 Eliminate zero phenomenon

以u3(k)=12*cos(0.006*k*π)为该系统的输入,并加入均值为0,方差为1的白噪声序列,系统的输出值如图5a;以式(2)为高斯径向基函数,辨识模型输出值如图5b;将式(2)改为式(3),辨识模型输出值如图5c。

图5b出现了间断的0现象,说明以式(2)作为高斯径向基函数的RBF NN不宜用于对非线性动态系统进行辨识。对比图5a,c,在白噪声序列的影响下,峰值附近的辨识效果往往不是最佳的;应结合参数η,α进行进一步的训练。从整体上观察,基于改进的RBF NN的自回归辨识模型能对复杂的非线性动态系统进行辨识,而且NARX模型不需要实际系统的先验知识集。

5 小结

在高斯径向基函数结构中加入参数a,b,有效解决了RBF NN的输出值为0的现象,整体上提高了RBF NN的泛化能力。因此,本系统设计的辨识模型能随着被辨识系统的非线性、时变性、参数不确定性的变化而变化。虽然增加了训练参数算法的复杂度,甚至影响收敛速度等问题,但采用RBF网络构成的神经网络控制方案,可有效提高系统的精度、鲁棒性和自适应性。

图5 辨识结果Fig.5 Identification result

庞中华,催红.2009.系统辨识与自适应控制matlab仿真[M].北京:北京航空航天大学出版社.

阮晓钢.2006.神经计算科学——在细胞的水平上模拟脑功能[M].北京:国防工业出版社.

徐辉,陈少华.2001.基于非线性理论的大气环境质量预测与评价[J].东华理工大学学报,24(3):357-360.

叶世伟,王海娟.2007.神经计算原理[M].北京:机械工业出版社.

Rommel G R,Christine A S.2007.Improved strategies for radial basis function methods for global optimization[J].Journal of Global Optimization,37:113-135.

YU D L,YU D W.2007.A new structure adaptation algorithm for RBF networks and its application[J].Neural Comput&Applic,16:91-100.

Identification Model of Regression System based on RBF Neural Network

XIE Cheng-qing, XIA Hong, ZHU Li
(Faculty of Mechanical&Electric Engineering,East China Institute of Technology,Fuzhou,JX 344000,China)

Nonlinear dynamic system identification model with radial basis function neural network is developed based on the function that neural network can close to nonlinear continuous function with high precision.The method of autoregressive system identification based on improved radial basis function structure is proposed with respect to zero phenomenon with input larger than mapping area of radial basis function,which can address this problem with good performance.The adaptive identification model can close to output of system even though a large vector inputted.In addition,the robustness of system identification is improved.This feasibility of method is validated through simulation.

RBF neural network;zero phenomenon;regression identification model

TP202

A

1674-3504(2011)04-0392-04

谢成清,夏洪,朱立.2011.基于RBF神经网络的自回归系统辨识模型[J].东华理工大学学报:自然科学版,34(4):392-395. Xie Cheng-qing,Xia Hong,Zhu Li.2011.Identification model of regression system based on RBF neural network[J].Journal of East China Institute of Technology(Natural Science),34(4):392-395.

10.3969/j.issn.1674-3504.2011.04.015

2010-06-08; 责任编辑:吴志猛

国家自然科学基金(61064009)

谢成清(1984—),男,硕士研究生,主要研究方向:嵌入式系统与机器人。

猜你喜欢

高斯径向现象
浅探径向连接体的圆周运动
RN上一类Kirchhoff型方程径向对称正解的存在性
基于PID+前馈的3MN径向锻造机控制系统的研究
一类无穷下级整函数的Julia集的径向分布
数学王子高斯
天才数学家——高斯
它们离“现象级”有多远
从自卑到自信 瑞恩·高斯林
你能解释下面的现象吗
猜谜语