弱相依半参数回归模型的加权小波估计的渐近正态性

胡宏昌

(湖北师范学院数学与统计学院,湖北 黄石 435002)

弱相依半参数回归模型的加权小波估计的渐近正态性

胡宏昌

(湖北师范学院数学与统计学院,湖北 黄石 435002)

本文研究了半参 数 回 归 模型 yi=Xi′β +g(ti)+ei,i=1,2,···,n, 其中 {ei} 为 ψ -弱相依随机误差序列.利用小波估计的方法得到了参数、非参数的加权小波估计量.在相当一般的条件下,获得了这些小波估计量的渐近正态性,不仅推广了半参数回归模型的相应结果,而且在一定程度上统一了相依半参数回归模型的渐近正态性的理论.

半参数回归模型;ψ -弱相依;小波估计;渐近正态性

1引言

考虑如下半参数回归模型

其 中“′”表 示 向 量 或 矩 阵 的 转 置, 随 机 设 计 点 列 Xi=(xi1,xi2,···,xid)′, 非 随 机 点 列ti∈ [0,1], β =(β1,β2,···,βd)′∈ Rd为 d 维 未知 参 数,g(t) 是定 义 在 [0,1] 上 的 未 知函 数, {ei} 为零均值的 ψ - 弱相依 (定义见下文) 序列.

半参数回归模型自从 Engle 等人提出后 (见文献 [1]),取得了丰硕的研究成果. 独立误差下的半参数回归模型的统计推断理论比较完善和系统 (如文献 [2–3]). 对于各种相依误差下的半参数回归模型 (1.1) 及其特殊情形人们也进行了研究, 并取得了丰富的成果, 如: 误差为鞅差的情形参见文献 [4],NA 误差的情形参见文献 [5–6]; 文献 [7] 讨论了一般相依误差 (包括混合误差) 下非参数回归模型最小二乘估计的相合性; 文献 [8]考虑了一类 ψ - 弱相依误差的半参数回归模型,得到参数和非参数的广义最小二乘估计量 (基于核方法) 的渐近正态性. 由于 ψ - 弱相依随机序列包含了 Gaussian 序列、各种混合序列、相伴序列、Bernoulli漂移、Markov 链等 (见文献 [9–10] 等) 在内的相依序列, 因此模型 (1.1) 在一定程度上是各种误差情形下的半参数回归模型的较一般形式.我们试图寻找半参数回归模型的小波估计的统一推断理论,本文只研究加权小波估计量的渐近正态性.

2 ψ-弱相依序列和小波估计

又记 Fn={h ∈ L∞(R):Lip(h) ＜ ∞,‖h‖∞=supu|h(u)| ≤ 1},F= ∪∞n=1Fn上的两 类函数为

和

其中 h,κ ∈ R.

定义2.1[9]随机序列 {εi,i ∈ N} 称为 (θ,F,ψ)- 弱相依 (简称 ψ - 弱相依), 如 果存在当 r → ∞ 时递减到零的序列 θ={θr,r ∈ N} 和函数 ψ, 使得对任何 (i1,i2,···,in) 和(j1,j2,···,jm) 有

其中 i1≤ i2≤ ···≤ in＜ in+r ≤ j1≤ j2≤ ···≤ jm.

设有一个给定的 刻 度函数 φ(x) ∈ Sl(阶为 l 的 Schwartz 空间),相伴 L2(R) 的多尺度分析为 {Vm},其再生核为

记 Ai是 [0,1] 上的分割且 ti∈ Ai,1 ≤ i ≤ n. 采用通常的估计方法, 可以得到参数 β 和非参数 g(t) 的加权小波估计量分别为

和

其中 Ψ =V ar(e)=(ψij)n×n为 n 阶正定矩阵,

3主要结果

本节将给出参数 β 和非参数 g(t) 的加权小波估计量的渐近正态性,为此先给出如下的一些基本假设条件:

(I) 存在光滑函数 fj(t),t ∈ [0,1],使得

其中 {ηij} 独立同分布, 且 Eηij=0,{ηij} 与 {ei} 相互独立.

(II)g(·),fj(·) ∈ Hα,α ＞12.

(III)g(·),fj(·) 满足 γ 阶 Lipschitz 条件,γ ＞ 0,1 ≤ j ≤ d.

(IV) φ(·) ∈ Sl(l≥ α),φ 满足 1 阶 Lipschitz 条件且具有紧支撑,当 ξ→ 0 时,|φˆ(ξ)−1|= O(ξ),其中 φˆ为 φ 的 Fourier 变换.

注1对于随机设计情形下的半参数回归模型的小波估计,假设条件 (I)–(V) 是相当弱的条件,如文献 [4,6]等均使用这些条件.假设 (VI) 比文献 [8] 的假设 4 要弱,且去掉了文献 [8]的假设 2 中的 (b) 和 (c).

基于上面的基本假设,可以得到如下的主要结果.

定理3.1如基本假设条件 (I)–(VI) 成立, 又设或弱相依序列且有

其中“D”表示依分布收敛.

定理3.2如满足定理 3.1 的所有条件, 则

其中

注2当误差 {ei} 为 Gaussian 序列、各种混合序列、相伴序列、Bernoulli漂移、Markov链等时,上述结论显然成立.由此可知,本文的结论不仅推广了独立误差情形的半参数回归模型的相应结论,而且在一定程度上统一了相依半参数回归模型的渐近正态性的理论.

4主要结果的证明

为了证明本文的主要结果, 我们先给出若干必要的引理, 其中引理 4.1 和 4.2 是小波估计常用的两个结论 (见文献 [11]等), 引理 4.3 参见文献 [6],引理 4.4 是仿照文献 [8] 的方法而得到.下文中的 C 表示常数,且在不同的地方可以取不同的值.

引理4.1[11]若条件 (I)–(IV) 成立,则

和

其中

引理4.2[11]若条件 (IV) 成立, 则

引理4.3[6]若条件 (III)、(IV) 成立, 且 Eη21j＜ ∞,则

引理4.4如基本假设条件 (I)–(VI) 成立,则依概率有

由假设 (VI) 及引理 4.1,得

由引理 4.3 容易得到 ‖W ηj‖2=OP(n16 log n), 于是由此及假设 (VI),得

和

因而由 (4.3) 和 (4.4) 式可以得到

由假设 (VI), 引理 4.1,得

由 (4.1),(4.2),(4.5) 和 (4.6) 式即可证明该引理.

定理4.1的证明由 (2.1) 式得

考虑 ˜X′Ψ−1W ΨW′Ψ−1˜X 的第 (i,j) 元素,由引理 4.1 和假设 (VI),得

考虑 ˜X′W′Ψ−1˜X 的第 (k,j) 元素的平方

于是由 (4.8)–(4.10) 式可得

利用文献 [8]的方法容易证明

由 (4.7),(4.11) 和 (4.12) 式即可得到定理 1.

定理4.2的证明注意到

由定理 4.1 和引理 4.3 可得

从而有

由定理 4.1 和引理 4.1–4.2 容易得到

从而由 (4.13)–(4.16) 式知,要证明定理 4.2 成立,只需证明下式成立即可

类似于 (4.12) 式的证明方法,很容易得到 (4.17) 式,在此略.

[1]Engle R F,Granger WJ,Rice J,Weiss A.Semiparametric estimates of the relation between weather and electricity sales[J].J.American Stati.Assoc.,1986,80:310–319.

[2]You J,Chen G.Testing heteroscedasticity in partially linear regression models[J].Stati.Prob.Lett., 2005,73:61–70.

[3]H¨a rdle W,Liang H,Gao J.Partially linear models[M].New York:Physica-Verlag Heidelberg,2000.

[4] 蔡择林, 胡宏昌. 半参数回归模型小波估计的弱收敛速度 [J]. 数学杂志,2011,31(2):331–340.

[5]Baek J I,Liang H Y.Asymptotics of estimators in semi-parametric model under NA samples[J].J. Stati.Plan.Infer.,2006,136:3362–3382.

[6]Hu H C,Wu L.Convergence rate of wavelet estimators in semiparametric regression models under NA samples[J].Chinese Annals Math.,Series B,2012,33(4):609–624.

[7]Hu S H.Consistency for the least squares estimator in nonlinear regression model[J].Stati.Prob. Lett.,2004,67:183–192

[8]Hwang E,Shin D.Semiparametric estimation for partially linear models with ψ -weak dependent errors[J].J.Korean Stati.Soc.,2011,40:411–424.

[9]Doukhan P,Louhichi S.A new weak dependence condition and applications to moment inequalities[J].Stoch.Proc.Their Appl.,1999,84:313–342.

[10]Dedecker J,Doukhan P,Lang G,Leon J R,Louhichi S,Prieur C.Weak dependence:with examples and applications[M].New York:Springer-Verlag,2007.

[11]Antoniads A,Gregoire G,Mckeague IW.Wavelet methods for curve estimation[J].J.American Stati.Assoc.,1994,89:1340–1353.

ASYMPTOTIC NORMALITY OF WEIGHTED WAVELET ESTIMATORS IN A SEMIPARAMETRIC REGRESSION MODEL WITH WEAKLY DEPENDENT ERRORS

HU Hong-chang
(School of Mathematics and Statistics,Hubei Normal University,Huangshi 435002,China)

Consider the following semiparametric regression model yi=Xi′β +g(ti)+ei,i= 1,2,···,n,where random errors{ei}are ψ-weakly dependent.Using the wavelet method,we obtain some estimators of the parametric component and the nonparametric component.Under general conditions,we investigate the asymptotic normality of these wavelet estimators.We not only generalize the corresponding conclusions of semiparametric regression models,but also unify asymptotic normal theorey of semiparametric regression models with dependent errors to some certain degree.

semiparametric regression model; ψ-weakly dependent;wavelet estimation; asymptotic normality

tion:62G05;62G20

2G05;62G20

O212.1

A

0255-7797(2017)02-0340-07

2014-08-11 接收日期:2014-11-05

国家自然科学基金资助 (11471105).

胡宏昌 (1971–), 男, 湖北英山,教授, 主要研究方向: 回归模型的统计推断理论及其应用.