几种约束优化算法求解含“开关”过程的条件非线性最优扰动的比较

郑琴 叶飞辉 沙建新 李能海

摘要 求解条件非线性最优扰动（Conditional Nonlinear Optimal Perturbation，CNOP）属约束最优化问题，一般采用基于伴随模式提供梯度信息的约束优化算法（简称ADJ）进行求解。当优化问题涉及不连续的“开关”过程时，传统优化算法的寻优能力会受到较大的影响。近年来遗传算法（Genetic Algorithm，GA）因其在非光滑优化问题中的鲁棒性备受关注，但GA的性能不仅与优化问题有关，还取决于遗传算子的配置。本文将一种新的约束GA（GAl）用于求解CNOP，并对GAl，ADJ及具有不同遗传算子配置的约束GA（GA2）求解含“开关”过程的CNOP时的性能进行了比较。数值试验结果显示，GA1和GA2的全局寻优能力明显优于ADJ，后者易于陷入局部最优；对于不同的初猜值（不同的初始种群），GAl求解的CNOP能够保持一个较为一致的空间结构，ADJ求解的CNOP呈现了明显的两种结构，一种代表的是全局CNOP，一种是局部CNOP。通过验证不同遗传策略对优化结果的影响发现，对不同的优化问题，采用合适的遗传策略以及合适的参数设置是获取更好优化结果的一种有效途径。

关键词 遗传算法 条件非线性最优 扰动 “开关”过程

研究大气和海洋运动的可预报性及稳定性等问题时，必须考虑非线性作用。为此，Mu et al.（2003）提出了条件非线性最优扰动（Conditional Nonlinear Optimal Perturbation，CNOP）的概念及理论体系，并将该理论成功应用于厄尔尼诺的可预报性、海洋热盐环流的敏感性分析、双旋海洋环流和斜压不稳定流的非线性行为、集合预报、适应性观测等领域的研究（Duan et al.，2004；Sun et al.，2005；Duan and Mu，2006；Mu and Jiang，2007；Mu et al.，2009）。最新研究成果表明，CNOP与导致一些天气、气候事件爆发的最优前期征兆在空间结构上具有很大的相似性，并且他们有着相同的发展机制，此研究成果已被应用到ENSO可预报性、阻塞高压的爆发、黑潮路径变异等问题的研究中（穆穆和段晚锁，2005；段晚锁和穆穆，2006；Wang et al.，2012）。

目前一般采用能处理约束条件的基于梯度信息的优化算法来求解CNOP，如序列二次规划（Se-quential Quadratic Programming，SQP）、谱梯度投影方法（Spectral Projected Gradient，SPG2）（Mu et al.，2002；Mu et al.，2003；Duan and Luo，2010）和基于经验正交分解（Empirical Orthogonal Function，EOF）的快速算法（Wang and Tan，2009）。而SQP或SPG2优化算法均需要模式的梯度信息，对模式的性态要求比较高。但物理参数化过程常常导致模式方程在临界值处关于时间、空间或模式变量的不连续或不可微，这种现象通常被称为“开关”（“on-off”）问题。“开关”现象的存在会导致基于经典的伴随方法求解精度大幅降低，甚至陷入局部最优（Mu andZheng，2005；Xu，1996a，1996b；Zheng and Mu，2006；郑琴和戴毅，2009）。遗传算法（Genetic Algo-rithm，GA）作为群体智能随机搜索算法的代表，对目标函数性态（如连续性，可微性等）要求低，同时能以较大概率搜索到全局最优解，无疑为非光滑强非线性情形下求解CNOP提供了一种思路。

GA是通过模拟生物进化规律演化成的一种全局优化隨机搜索算法。近些年来，由于计算机的发展以及研究问题的复杂化需要，GA已在多领域获得了广泛的应用和发展。目前GA在大气和海洋研究中同样有着广泛的应用，王顺凤等（2002）采用基于进化方向的GA对数值天气预报模式初始时刻要素场进行了变分同化，并对理想初始场作数值模拟，取得了较好的模拟效果。Singh et al.（2005，2006）利用GA作为最优化工具寻找与观测资料最相匹配的非线性回归模型，并指出GA与人工神经网络效果相当。白晨等（2006）的研究表明，共轭梯度算法和GA在气象资料的四维同化中可以相互补充，并通过实验证明两者的结合能够增强搜索能力和收敛速度。张韧等（2008）将GA用于ENSO指数的动力预报模型反演中，模型预报试验结果表明，GA具有的全局搜索和并行计算优势能够客观有效得反演海温指数的动力预报模型，对Nino3海温指数和E1Nino/La Ninoa事件进行较为准确的预测，为E1Nino/La Ninoa预测提供了有益的研究参考。彭菊香等（2008）设计了一个以MM5模式为基础的遗传算法同化系统，并对一次暴雨过程进行了实际降水的模拟，结果表明遗传算法与四维变分相结合的同化系统能有效地改善模式的初始场，提高MM5模式要素预报和降水预报的准确率。刘巍等（2010）采用了经遗传算法优化后的分形插值方法进行了AR-GO海温资料插值加密的对比实验，结果显示该方法较常规插值方法更有优势，有效改进了分形插值的结果。郑琴等（2011）以修改的Lorenz模型作为预报模式，对3个初始态分别用遗传算法和伴随算法求解最大预报误差上界，发现采用遗传算法求解的最大预报误差的上界更加精确。Zheng et al.（2012a）将GA应用于含有不连续on-off过程的变分资料同化，并与传统伴随方法进行了比较，数值结果显示基于GA的变分资料同化方案在同化效果上明显优于传统伴随方法。Zheng et al.（2012b）将GA分别用于求解最大可预报时间和最大可预报误差的问题，数值试验结果显示GA能更准确地求解可预报性问题。

本文拟采用了两种不同的遗传算子配置的GA（GA1和GA2，下文详述）用于求解含不连续“开关”过程的CNOP问题，同时从空间结构方面分析不同优化算法求解的CNOP对初猜值的敏感性，从而进一步验证GA1求解CNOP问题的有效性。

1非线性模式及CNoP

1）非线性模式

本文采用一个含不连续“开关”过程的偏微分方程来研究GA和ADJ求解CNOP问题的有效性。模式的介绍以及数值离散方法详见文献Zheng，et al.（2012a）。

2）条件非线性最优扰动（CNOP）

线性奇异向量（Linear Singular Vector，LSV）表征的是切线性模式的线性增长最快的初始扰动；而CNOP则是满足一定约束条件的初始扰动，在非线性模式中发展最大的初始扰动。CNOP的定义及其求解方法详见文献（Mu et al.，2003；Mu and Jiang，2007）。

2两种不同配置的GA；6-法求解CNoP

2.1 GA1的遗传策略

GA在求解CNOP时，需要进行选择、交叉和变异操作，适当选择遗传算子能使GA更加有效地发挥作用。最近，Zheng et al.（2012a）提出了一种新的约束GA（简称GAl）并将其用于求解CNOP。GA1中采用的是下列遗传操作策略：

1）选择操作

采用联赛选择机制，其比较准则如下：

a.当两个比较个体都是可行解时，保留目标函数较优的；