Hilbert空间中解凸集约束优化问题的梯度投影算法

杨丽

(西华师范大学数学与信息学院， 四川南充637002)



Hilbert空间中解凸集约束优化问题的梯度投影算法

杨丽

(西华师范大学数学与信息学院， 四川南充637002)

梯度投影算法是求解非线性约束最优化问题的基本方法之一，多年来一直吸引着许多学者对其进行研究。在Hilbert空间H中，利用梯度投影算法解决有约束条件的凸集C上的凸函数f的最优问题，引入CKQ方法，与以往研究的差异是在定理中新增加了集合Kn，并证明了改进的梯度投影算法的强收敛性。所得结果将文献中的梯度投影算法推广为Ishikawa形式。

梯度投影算法；CKQ方法；强收敛

引言

近年来，利用梯度投影算法解决有限制凸集优化的问题受到了广泛的关注[1-6]。设H是Hilbert空间，C是H的一个非空闭凸子集，考虑有约束条件的凸集C上f的最优问题：

(1)

xn+1=PC(xn-γ▽f(xn),n≥0

(2)

或者更一般地

xn+1=PC(xn-γn▽f(xn),n≥0

(3)

其中，γ和γn都是正实数。(2)式和(3)式是否收敛取决于梯度函数▽f。事实上，如果▽f是利普希兹连续的且是强单调的，即存在L>0和α>0，使得

(4)

且

〈▽f(x)-▽f(y),x-y〉≥

(5)

(6)

(7)

并证明了当▽f利普希兹连续且γn满足条件(6)式时，xn→PSx0，这里S是问题(1)的解集。

本文在实Hibert空间中改进(7)式，引入了CKQ方法，证明了改进的梯度投影算法的强收敛性。本文中，H都为Hilbert空间。

1 预备知识

定义3假设γ>0，T是γ—逆强单调(γ-ism)，当且仅当

引理3[9]令C是H的非空闭凸子集，点x,y,z,w∈H，a是实数，那么集合

是闭凸集。

2 主要结果

(8)

那么有xn→PSx0。(当n→∞)。

先证S⊂Cn∩Kn∩Qn，对任意的p∈S，因Vp=p，即得到

(9)

从而p∈Cn，对所有的n≥0，因此S⊂Cn。又因zn=PC(xn-γ▽f(yn)及▽f的利普希兹连续性，由引理4并结合引理1有

▽f(p),p-yn〉+〈▽f(p),p-yn〉+

〈▽f(yn),yn-zn〉≤

2〈xn-γ▽f(yn)-yn,zn-yn〉

(10)

又因为

〈xn-γ▽f(yn)-yn,zn-yn〉=

〈xn-γ▽f(xn)-yn,zn-yn〉+

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

(11)

结合(10)式和(11)式,得到：

注意到

Qn={z∈C:≤0}

特别地，有

(12)

xn+1-xn,xn-x0>≤

又注意到xn+1∈Cn，从而有

得到

(13)

最后结合(12)式和引理5得到xn→q(n→∞)，即xn→PSx0，(当n→∞)。

3 结束语

本文主要研究了Hilbert空间中解凸集约束优化问题的梯度投影算法，并证明了算法的强收敛性，所得结果将文献[1]中的梯度投影算法推广为Ishikawa的形式。与以往研究不同的是，在定理1中新增加了一个集合Kn，这样的好处是使收敛速率有所提高，今后可以考虑在收敛速率这方面作进一步的研究。

[1] Xu H K.Averaged Mappings and the Gradient-Projection Algorithm[J].J.Optim.Theory.Appl,2011,150(2):360-378.

[2] Su M,Xu H K.Remarks on the gradient-Projection algorithm[J].J.Nonl.Anal.Optim,2011,1(1):35-43.

[3] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[4] Ryu S,Chen A,Choi K.A modified gradient projection algorithm for solving the elastic demand traffic assignment problem[J].Computer& Operations Research,2014,1(47):61-71.

[5] Liu Z Y,Wei Z H,Sun W Y.An iteratively approximated gradient projection algorithm for sparse signal reconstruction[J].Applied Mathematics and computation,2014,2(228):454-462.

[6] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[7] Levitin E.S,Polyak B T.Constrained minimization methods[J].Zh.Vychisl.Mat.Fiz,1966,6:787-823.

[8] Goebel K,Kirk W A.Topics in Metric Fixed Point Theory[M].Cambridge:Cambridge University Press,1990.

[9] Halpern B.Fixed points of nonexpanding maps[J].Bull.Am.Math.Soc,1967(73):957-961.

[10] Baillon J B,Haddad G.Quelques proprietes des operateurs angle-bornes et n-cycliquement monotones[J].Israel J.Math,1977,26(2):137-150.

Gradient Projection Algorithms for Solution Convex Sets Constraints Optimization Problem In Hilbert Space

YANGLi

(School of Mathematics and Information, China West Normal University, Nanchong 637002, China)

The gradient projection operator is one of the basic approaches for solving nonlinear constrained optimization problem, so it has been attracting many scholars to research. In Hilbert space, the gradient projection algorithm is used to solve optimization problems of convex functionfonconvexsetwithconstraintcondition,andtheCKQmethodisintroduced,asetKnisaddedintheoremwhichisdifferentfrompreviousstudy,andthestrongconvergenceofimprovedgradientprojectionalgorithmisproved.TheobtainedresultsmakethegradientprojectionalgorithminliteraturesgeneralizedtobeIshikawaform.

gradient projection operator; CKQ method; strong convergence

2015-04-21

国家自然科学基金项目(11371015)

杨 丽(1980-)，女，四川大邑人，讲师，硕士，主要从事非线性分析及最优化方面的研究，(E-mail)yangli@cwnu.edu.cn

1673-1549(2015)03-0086-04

10.11863/j.suse.2015.03.18

O224

A