传递函数辨识(25):自回归输出误差自回归滑动平均系统的辅助模型递阶广义增广递推参数估计

丁 锋,徐 玲,籍 艳,刘喜梅

(1.江南大学 物联网工程学院,江苏 无锡 214122;2.青岛科技大学 自动化与电子工程学院,山东 青岛 266061)

系统辨识是研究用数学模型描述事物的运动规律的学科,是自然科学的基础。最近出版的系统辨识学术专著[1-7]和连载论文[8-15]中介绍了许多系统参数辨识方法。自回归输出误差自回归滑动平均(AR-OEARMA)模型是随机系统的最一般模型结构形式,其他方程误差模型和输出误差模型都是该模型的特例。输出误差系统的辨识要用到辅助模型,故对应的方法称为辅助模型辨识方法。

在《系统辨识:多新息辨识理论与方法》一书3.6节中,针对输出误差自回归滑动平均(OEARMA)系统(即Box-Jenkins系统),研究了基于模型分解的辅助模型(多新息)广义增广随机梯度算法和辅助模型(多新息)广义增广最小二乘算法,其中《两阶段辅助模型多新息广义增广随机梯度算法和两阶段辅助模型广义增广最小二乘算法》发表在国际期刊IET Signal Processing 2013年第8期上[16]。

《系统辨识:迭代搜索原理与辨识方法》3.5节和4.5节研究了输出误差自回归滑动平均(OEARMA)系统(即Box-Jenkins系统)和自回归输出误差自回归滑动平均(AR-OEARMA)系统的辅助模型广义增广迭代辨识方法[5]。《系统辨识:多新息辨识理论与方法》3.5节和3.6节,研究了OEARMA系统的辅助模型递推辨识方法[6]。《系统辨识:辅助模型辨识思想与方法》2.5节和2.6节研究了AROEARMA系统的辅助模型递推辨识方法[4]。

最近的连载论文研究了输出误差模型的辅助模型递阶递推辨识方法和递阶递推多新息辨识方法[8]。这里加以推广,针对有色噪声干扰的自回归输出误差自回归滑动平均(AR-OEARMA)系统,即自回归Box-Jenkins(AR-BJ)系统,利用递阶辨识原理、多新息辨识理论,研究和提出辅助模型递阶广义增广递推辨识方法和辅助模型递阶多新息广义增广递推辨识方法。提出的辅助模型递阶递推辨识方法可以推广用于研究其他线性和非线性随机系统,以及信号模型的参数辨识问题。

1 AR-BJ系统描述与递阶辨识模型

考虑自回归输出误差自回归滑动平均(AROEARMA)模型,即自回归Box-Jenkins模型(ARBJ模型)描述的动态随机系统:

其中u(t)和y(t)分别为系统的输入和输出,v(t)为零均值、不相关随机白噪声(不可测),A(z),B(z),C(z),D(z)和F(z)为单位后移算子z－1的多项式:

设阶次na,nb,nc,nd和nf已知,记n＝na＋nb＋nc＋nd＋nf,且t≤0时,y(t)＝0,u(t)＝0,v(t)＝0。

定义中间变量x(t)和噪声模型输出w(t)为

定义参数向量:

定义信息向量:

由式(2)和(3)可得

将式(2)和(3)代入式(1)可得

这个辨识模型包含了两个参数向量ϑ和ρ。递阶辨识是一种基于分解的辨识。下面通过定义一个中间变量,获得递阶辨识模型,研究交互估计两个参数向量的辅助模型递阶辨识方法。

引入中间变量(intermediate variable)

式(8)可以等价写为两个子辨识模型:

这两个子辨识模型构成了AR-BJ系统的递阶辨识模型。

注1对AR-BJ系统辨识模型(8)进行分解,得到递阶辨识模型(9)和(10),一个包含系统模型的参数向量ϑ,另一个包含噪声模型的参数向量ρ,这里分别推导它们的辨识算法,并利用递阶辨识原理协调两个子辨识算法间的关联项。

2 辅助模型递阶广义增广随机梯度辨识算法

根据AR-BJ系统的递阶辨识模型(9)和(10),定义两个梯度准则函数:

递推关系式(12)～(15)右边包含了未知信息向量φ(t)和ψ(t),以及未知参数向量ρ和ϑ,所以无法计算参数估计和,原因是信息向量φ(t)包含了中间变量x(t－i),ψ(t)包含了不可测噪声项w(t－i)和v(t－i)。解决的方法是利用辅助模型辨识思想,利用系统的可测信息(包括计算得到的信息)建立辅助模型,用辅助模型的输出代替这些未知量,从而使辨识问题得到解决。具体做法如下。

根据φ(t)的定义式,用辅助模型的输出^x(ti)和系统输入u(t－i)定义φ(t)的估计:

根据ψ(t)的定义式,用辅助模型的输出和定义ψ(t)的估计:

根据φ(t)的定义式,用定义φ(t)的估计:

由式(7)可得

由式(8)可得

上式也可以直接根据式(6)得到。

定义新息

式(12)～(15)右边的未知向量φ(t),ψ(t),ρ和ϑ分别用其估计和代替,可以得到估计AR-BJ系统参数向量ϑ和ρ的辅助模型递阶广义增广随机梯度算法(auxiliary model HGESG algorithm,AM-HGESG算法):

在AM-HGESG算法(16)～(31)中引入加权因子、遗忘因子,可以得到辅助模型加权递阶广义增广随机梯度算法(AM-W-HGESG算法),辅助模型遗忘因子递阶广义增广随机梯度算法(AM-FF-HGESG算法),辅助模型加权遗忘因子递阶广义增广随机梯度算法(AM-W-FF-HGESG算法)。

1)初始化:令t＝1,给定新息长度p和参数估计精度ε。置初值,1n是一个元均为1的n维列向量。

2)采集输入输出数据u(t)和y(t)。用式(22)～(24)构造信息向量,)和),用式(21)构造信息向量)。

3)用式(17)计算新息e(t),用式(18)计算r1(t)。

5)用式(20)计算r2(t)。根据式(19)刷新参数估计向量。

3 辅助模型递阶多新息广义增广随机梯度算法

为改进辅助模型递阶广义增广随机梯度辨识算法的收敛速度,下面借助多新息辨识理论,通过扩展新息维数,推导出辅助模型递阶多新息广义增广随机梯度算法。

设正整数p表示新息长度。基于AM-HGESG算法(16)～(31),将输出y(t),信息向量和)扩展为堆积输出向量Y(p,t),堆积信息矩阵和:

将式(16)和(19)中标量新息

扩展为新息向量

就得到估计AR-BJ系统参数向量ϑ和ρ的辅助模型递阶多新息广义增广随机梯度算法(AMHMI-GESG算法):

在AM-HMI-GESG算法(32)～(50)中引入加权矩阵、遗忘因子,可以得到辅助模型加权递阶多新息广义增广随机梯度算法(AM-W-HMI-GESG算法),辅助模型遗忘因子递阶多新息广义增广随机梯度算法(AM-FF-HMI-GESG算法),辅助模型加权遗忘因子递阶多新息广义增广随机梯度算法(AM-WFF-HMI-GESG算法)。当新息长度p＝1时,AMHMI-GESG算法退化为AM-HGESG算法(16)～(31)。

AM-HMI-GESG算法(32)～(50)计算参数估计向量)和的步骤如下。

1)初始化:令t＝1,给定新息长度p和参数估计精度ε。置初值是一个元均为1的n维列向量。

2)采集输入输出数据u(t)和y(t)。用式(41)～(43)构造信息向量和,用式(40)构造信息向量)。用式(37)～(39)构造堆积输出向量Y(p,t),堆积信息矩阵和)。

3)用式(33)计算新息向量E(p,t),用式(34)计算r1(t)。

5)用式(36)计算r2(t)。根据式(35)刷新参数估计向量。

4 辅助模型递阶广义增广递推梯度辨识算法

根据AR-BJ系统的递阶辨识模型(9)和(10),定义堆积输出向量Y(t),堆积信息矩阵Φ(t),堆积虚拟输出向量Y1(t),堆积噪声向量W(t)和堆积噪声矩阵Ψ(t)如下:

定义准则函数:

使用负梯度极小化准则函数J3(ϑ)和J4(ρ),未知量用其估计代替,联立式(21)～(31),便得到辨识AR-BJ系统参数向量ϑ和ρ的辅助模型递阶广义增广梯度算法(auxiliary model HGEG algorithm,AM-HGEG算法):

在AM-HGEG算法(53)～(71)中引入加权因子、遗忘因子,便得到辅助模型加权递阶广义增广梯度算法(AM-W-HGEG算法)、辅助模型遗忘因子递阶广义增广梯度算法(AM-FF-HGEG算法)、辅助模型加权遗忘因子递阶广义增广梯度算法(AM-WFF-HGEG算法)。

1)初始化:给定参数估计精度ε。令t＝1,置初值max[na,nb,nc,nd,nf],p0是一个大正常数,如p0＝106。

2)采集输入输出数据u(t)和y(t)。用式(62)～(64)构造信息向量和,用式(61)构造信息向量)。

3)用式(54)计算r1(t),用式(55)计算向量ξ1(t),用式(56)计算矩阵R1(t)。用式(53)刷新参数估计向量。从式(68)的中读出子参数估计)。

4)用式(58)计算r2(t),用式(59)计算向量ξ2(t),用式(60)计算矩阵R2(t)。用式(57)刷新参数估计向量)。用式(62)～(64)计算辅助模型的输出和。

5 辅助模型递阶多新息广义增广递推梯度算法

设正整数p表示新息长度。基于AM-HGEG算法(53)～(71),将式(54)～(56)和(58)～(60)中输出y(t),信息向量)扩展为堆积输出向量Y(p,t),堆积信息矩阵

联立式(72)～(74),便得到辨识AR-BJ系统参数向量ϑ和ρ的辅助模型递阶多新息广义增广梯度算法(auxiliary model HMI-GEG algorithm,AMHMI-GEG算法):

在AM-HMI-GEG算法(75)～(96)中引入加权因子(加权矩阵)、遗忘因子,便得到辅助模型加权递阶多新息广义增广梯度算法(AM-W-HMI-GEG算法)、辅助模型遗忘因子递阶多新息广义增广梯度算法(AM-FF-HMI-GEG算法)、辅助模型加权遗忘因子递阶多新息广义增广梯度算法(AM-W-FFHMI-GEG算法)。

AM-HMI-GEG算法(75)～(96)计算参数估计向量和的步骤如下。

1)初始化:给定新息长度p和参数估计精度ε。令t＝1,置初值,p＋max[na,nb,nc,nd,nf],p0是一个大正常数,如p0＝106。

2)采集输入输出数据u(t)和y(t)。用式(87)～(89)构造信息向量和,用式(86)构造信息向量。用式(83)～(85)构造堆积输出向量Y(p,t),堆积信息矩阵矩阵和。

3)用式(76)计算r1(t),用式(77)计算向量ξ1(t),用式(78)计算矩阵R1(t)。用式(75)刷新参数估计向量。从式(93)的中读出子参数估计和。

4)用式(80)计算r2(t),用式(81)计算向量ξ2(t),用式(82)计算矩阵R2(t)。用式(79)刷新参数估计向量。用式(90)～(92)计算辅助模型的输出和

6 辅助模型递阶广义增广最小二乘辨识算法

根据AR-BJ系统的递阶辨识模型(9)和(10),引入两个准则函数:

参照RLS算法的推导,极小化J5(ϑ)和J6(ρ),可以得到下列最小二乘递推关系:

在式(97)～(102)中,由于信息向量φ(t)和ψ(t)是未知的,故用辅助模型的输出和系统输入u(t－i)定义φ(t)的估计:

用噪声w(t)和v(t)的估计定义ψ(t)的估计:

用φy(t)和构造φ(t)的估计:

定义新息

于是,将式(97)～(102)右边的未知向量φ(t),ψ(t),ρ和ϑ分别用其估计和代替,联立式(97)～(102)和式(4),可以得到估计AR-BJ系统参数向量ϑ和ρ的辅助模型递阶广义增广最小二乘算法(auxiliary model HGELS algorithm,AM-HGELS算法):

AM-HGELS算法(110)～(127)计算参数估计向量的步骤如下。

1)初始化:令t＝1。给定参数估计精度ε。置初值。

2)采集输入输出数据u(t)和y(t)。用式(118)～(120)构 造 信 息向量和,用 式(117)构造信息向量

3)用式(111)计算新息e(t),用式(112)计算增益向量L1(t),用式(113)计算协方差阵P1(t)。

5)用式(115)计算增益向量L2(t),用式(116)计算协方差阵P2(t)。

在AM-HGELS算法(110)～(127)中引入加权因子、遗忘因子,便得到辅助模型加权递阶广义增广最小二乘算法(AM-W-HGELS算法),辅助模型遗忘因子递阶广义增广最小二乘算法(AM-FF-HGELS算法),辅助模型加权遗忘因子递阶广义增广最小二乘算法(AM-W-FF-HGELS算法)。

7 辅助模型递阶多新息广义增广最小二乘算法

根据多新息辨识理论,基于AM-HGELS算法(110)～(127),将系统输出y(t),信息向量)和扩展为堆积输出向量Y(p,t),堆积信息矩阵:

将式(110)和(114)中标量新息

扩展为新息向量

可以得到估计AR-BJ系统参数向量ϑ和ρ的辅助模型递阶多新息广义增广最小二乘算法(auxiliary model HMI-GELS algorithm,AM-HMI-GELS算法):

当新息长度p＝1时,AM-HMI-GELS算法退化为AM-HGELS算法(110)～(127)。

AM-HMI-GELS算法(128)～(148)计算参数估计向量的步骤如下。

1)初始化:令t＝1,给定新息长度p和参数估计精度ε。置,,,p0＝106。

2)采集输入输出数据u(t)和y(t)。用式(139)～(141)构造信 息向量和,用 式(138)构造信息向量。用式(135)～(137)构造堆积输出向量Y(p,t),堆积信息矩阵和

3)用式(129)计算新息向量E(p,t),用式(130)和(131)计算增益向量L1(t)和协方差阵P1(t)。

5)用式(133)计算增益向量L2(t),用式(134)计算协方差阵P2(t)。

在AM-HMI-GELS算法(128)～(148)中引入加权因子(加权矩阵)、遗忘因子,可以得到辅助模型加权递阶多新息广义增广最小二乘算法(AM-WHMI-GELS算法),辅助模型遗忘因子递阶多新息广义增广最小二乘算法(AM-FF-HMI-GELS算法),辅助模型加权遗忘因子递阶多新息广义增广最小二乘算法(AM-W-FF-HMI-GELS算法)。

8 多变量系统与多元系统

可以将提出的辅助模型递阶(多新息)递推辨识方法推广用于下列多变量(自回归)输出误差自回归滑动平均系统和多元(自回归)输出误差自回归滑动平均系统。

8.1 多输入输出误差自回归滑动平均(OEARMA)系统,即多输入Box-Jenkins系统

u1(t),u2(t),…,ur(t)为系统的r个输入。

8.2 多输入自回归输出误差自回归滑动平均(AROEARMA)系统,即多输入AR-Box-Jenkins统(包括特殊的多输入AR-OEMA系统和多输入AR-OEAR系统)

8.3 多变量输出误差自回归滑动平均(OEARMA)系统,即多变量Box-Jenkins系统[17]

u(t)＝[u1(t),u2(t),…,ur(t)]T∈ℝr为系统的输入向量,y(t)＝[y1(t),y2(t),…,ym(t)]T∈ℝm为系统的输出向量,v(t)＝[v1(t),v2(t),…,vm(t)]T∈ℝm为系统的干扰白噪声向量,汪学海[18]研究了辅助模型广义增广随机梯度辨识方法和辅助模型递推广义增广最小二乘辨识方法的收敛性,进一步可研究辅助模型递阶(多新息)广义增广随机梯度辨识方法、辅助模型递阶(多新息)广义增广梯度辨识方法和辅助模型递阶(多新息)广义增广最小二乘辨识方法。

8.4 多变量自回归输出误差自回归滑动平均(AROEARMA)系统,即多变量AR-Box-Jenkins系统

8.5 多变量自回归输出误差自回归滑动平均(AROEARMA)系统

y1(t),y2(t),…,ym(t)为系统的m个输出,v1(t),v2(t),…,vm(t)为系统的m个白噪声,

令u(t)＝[u1(t),u2(t),…,ur(t)]T∈ℝr为系统输入向量,y(t)＝[y1(t),y2(t),…,ym(t)]T∈ℝm为系统输出向量,v(t)＝[v1(t),v2(t),…,vm(t)]T∈ℝm为零均值不相关白噪声向量,那么上述系统可以等价写为

8.6 多元输出误差自回归滑动平均(OEARMA)系统和多元自回归输出误差自回归滑动平均

Φ(t)∈ℝm×n和Φj(t)∈ℝm×nj都是可测信息矩阵。

8.7 多变量输出误差自回归滑动平均(OEARMA)系统和多元自回归输出误差自回归滑动平均(AR-OEARMA)系统

9 结 语

针对自回归输出误差自回归滑动平均(AROEARMA)系统,研究和提出了辅助模型递阶(多新息)广义增广随机梯度算法、辅助模型递阶(多新息)广义增广递推梯度算法、辅助模型递阶(多新息)广义增广最小二乘算法。尽管这些辅助模型递阶递推辨识方法是针对有色噪声干扰下的标量输出误差随机系统提出的,但是其思想可以推广到有色噪声干扰下的线性和非线性多变量输出误差随机系统中[19-32]。