APP下载

基于人工神经网络的舰船灵敏度分析

2015-12-04

舰船科学技术 2015年3期
关键词:剪枝权值舰船

喻 曦

(贵州财经大学,贵州 贵阳550000)

0 引 言

随着世界范围内舰船规模的增大,各种跟舰船相关的技术也迅猛发展。舰船参数在很多应用中都很重要,但舰船参数对总体综合性能的灵敏度分析是一个非常复杂的问题,它不仅要考虑船体本身的因素,同时还受到各种武器装备、生命力要求的影响[1]。由于舰船参数具有不确定性,无法量化表示等特性,因此传统的解析方法根本无法确定参数灵敏度与舰船综合性能间的具体对应关系。而神经网络是一种并行的、复杂的、非线性的动力学系统,它具有模拟复杂非线性系统的能力,对非确定规律性系统具有自适应特征[2]。只要给定输入参数和对应的期望输出,就可通过样本的学习过程建立起两者的映射关系。

本文利用4 层BP神经网络对舰船的抗沉性、最大航速、适航性[3]、载重量4个重要参数进行灵敏度分析。在用BP神经网络训练样本的同时,利用Skeletonization 灵敏度剪枝法计算输入节点、隐节点以及各连接权值的灵敏度,对于输入节点,灵敏度高则表示该输入节点对输出的贡献大,否则贡献较小。对隐节点和连接权值而言,灵敏度大则表示该节点或权值比较重要,需予以保留,否则需予以删除,以获得最佳神经网络结构。通过结合BP神经网络和Skeletonization 灵敏度剪枝方法,不仅可建立起各参数灵敏度与舰船综合性能间的对应关系,而且学习过程收敛后,可获得各输入节点稳定的灵敏度值。

1 舰船参数

舰船参数的灵敏度分析对评价舰船综合性能、类别识别等至关重要,但不同的参数对舰船性能的贡献不一样,考虑到研究舰船性能的所有影响因素不太现实,本文选取了较常用的舰船抗沉性、最大航速、适航性及载重量4个反映舰船性能的参数。由于有些参数不具备明确的数值,因此在用神经网络对样本进行训练之前,可通过专家的先验知识先对4个参数给出明确的量化值,并建立4个参数与舰船性能之间的数值对应关系,以作为神经网络的训练样本。

2 BP神经网络

2.1 BP 网络结构

BP 网是一种由线性阈值单元组成的多层感知器网络结构,其结构包括输入层、多个隐含层、输出层,各层之间实现全连接[4],由于BP神经网络各层隐含节点常使用Sigmoidal 函数作为激活函数,因此BP 网也称为隐含节点激活函数采用Sigmoidal 函数的多层感知器。根据实际应用不同,输出节点的激活函数有不同的选择:如果利用BP神经网络进行分类,则输出层节点的激活函数一般采用Sigmoidal 函数或硬极限函数;而如果利用BP神经网络进行函数逼近,则应使用线性函数作为激活函数,图1 给出了BP 网的网络结构。

图1 BP 网络结构Fig.1 Network structure of BP

对于BP 网中的各计算节点,有如下公式:

式中:f(·)为Sigmoidal 函数;uj为每个节点的输入;yj为每个节点的输出。

以4 层BP神经网络为例,假设其有n个输入节点,则其输入向量为x ∈Rn,第1 隐层共n1个神经元,各节点相应的输出为x′ ∈Rn1;第2 隐层共n2个神经元,各节点对应的输出为x″ ∈Rn2;输出层共m个神经元,即输出y ∈Rm。又设输入层到第1隐层的权值为wij,各节点阈值为θj;第1 隐层到第2 隐层的权值为w′jk,节点阈值为θ′k;第2 隐层到输出层的权值为w′kl,节点阈值为θ′l。于是各层神经元输出为:

显然BP神经网络完成了n 维输入空间到m 维输出空间的映射。

2.2 BP 学习算法

BP 学习算法是一类有导学习算法,用于训练BP 网的连接权值和节点阈值。设共有P个训练样本,d(1),d(2),…,d(p)为其对应的期望输出,训练过程就是通过训练误差不断校正连接权值和节点阈值,直到实际网络输出y(p)接近期望输出d(p),学习规则基于最小均方误差,当第p个样本输入时,网络训练误差为:

当所有样本都输入后,总误差为:

根据梯度下降法可计算各层的反传误差为:

3 灵敏度剪枝法

灵敏度剪枝法是一类非常重要的神经网络优化方法。其基本做法是在网络的训练过程中或在网络训练结束后,判断网络输入节点和隐节点对网络总训练误差的贡献,该贡献又称为灵敏度,删除灵敏度较小的节点或权值,则可筛选出对网络输出贡献相对较大的输入。Skeletonization 方法属于灵敏度剪枝方法的一种,该方法在去除冗余隐含节点的同时,还可估计出所有输入节点的灵敏度。为使Skeletonization法在分类的同时计算出输入节点的灵敏度,本文改进了Skeletonization法传统的灵敏度计算方法。首先对隐节点和输入节点进行剪枝的传统做法为:固定网络中的其余所有无关参数,利用以下测度准则来判断当某输入节点或隐节点被删除后,神经网络性能的变化情况:

其中E 为网络的训练误差。通常直接计算ρi难度很大,因此下面给出Mozer和Smolensky 采用的灵敏度ρi逼近方法。

图2 输入节点和隐节点的重视程度系数Fig.2 Importance of input and hidden nodes

首先为每个输入节点和隐含节点引入重视程度系数αi(注意该系数只是表示了对第i个节点进行惩罚,并不是神经网络的参数),则:

式中:oj和oi分别为第j和i个节点的输出;wji 为连接权值;f(·)为sigmodal 函数。如果αi=0 ,则表示应该删除该隐节点;如果αi=1 ,则表示该节点应该保留。由此隐节点i的灵敏度可表示为:

ρi可用误差函数对αi的导数来逼近:

则ρi的逼近式为:

可在权值调整的同时进行ρi的计算,但网络权值的调整并不受αi和ρi计算的影响,因为它们并不是神经网络的参数。以3 层BP 网为例,可计算出输入节点和隐节点的灵敏度估计公式,如果输出节点采用线性激活函数,而用于权值调整的目标函数采用误差绝对值之和,则各隐节点的灵敏度为:

为改善ρi直接计算波动较大的缺点,本文使用一阶惯性滤波。图3 给出了Skeletonization 灵敏度剪枝法的训练误差曲线,采用的BP 网络结构为24-10-10-1,初始权值为[0-0.1]内均匀分布的随机值,最大训练次数为10 000,学习率η为0.000 5,设置训练误差阈值E0=15,用于隐节点删除的窗口大小设置L=50,灵敏度阈值设置β0=0.005,采用二进制输出。

图3 训练误差曲线Fig.3 Training error for skeletonization

表1 给出了Skeletonization法的剪枝效果。最大航速和适航性均有冗余节点,收敛后抗沉性的灵敏度达到最高。

表1 Skeletonization 剪枝结果Tab.1 Pruning result of Skeletonization

表2 给出了神经网络计算的舰船综合性能和已有的理论值之间的对比。从表中可看出,神经网络给出的舰船综合性能已非常接近给定的理论值。

表2 舰船综合性能的理论值和计算值Tab.2 Theoretical and experimental values of ships

表3 给出了算法在收敛过程中的灵敏度变化过程,在网络不断学习的过程中,舰船的综合性能也在逐渐增高,这说明学习过程有效。

表3 神经网络收敛过程Tab.3 Convergence of network

4 结 语

舰船参数的选择对于评价舰船综合性能至关重要,量化的舰船参数灵敏度分析是后续舰船性能评价、类型识别等的重要前提。本文利用4 层24-10-10-1的BP神经网络对舰船的抗沉性、最大航速、适航性、载重量4个参数进行了灵敏度分析。在用BP神经网络对样本训练的基础上,利用Skeletonization 灵敏度剪枝法计算各输入节点、隐节点和连接权值的灵敏度。实验结果表明,Skeletonization法的剪枝过程在不影响神经网络训练的前提下,不仅优化了网络结构的设计,而且在学习过程收敛后,可获得各输入节点稳定的灵敏度值。

[1]唐文勇,周佳,朱荣成.基于人工神经网络方法的舰船参数灵敏度分析[J].舰船科学技术,2007,28(6):111-114.TANG Wen-yong,ZHOU Jia,ZHU Rong-cheng.Ship parameter sensitivity analysis based on artificial neural network[J].Ship Science and Technology,2007,28(6):111-114.

[2]李聪.基于BP神经网络的股票指数期货价格预测[D].青岛:青岛大学,2012.LI Cong.Prediction of stock index futures price based on BP network[D].Qingdao:Qingdao University,2012.

[3]张恒,杨屹.水面舰船船型选型评估方法[J].舰船科学技术,2013,34(12):40-45.ZHANG Hen,YANG Yi.Evaluation of ship type selectionmethods[J].Ship Science and Technology,2013,34(12):40-45.

[4]季云.BP算法及其应用实例[J].中国新技术新产品,2010(9):29-29.JI Yun.BP network and its applications [J].New Technologies and Products,2010(9):29-29.

猜你喜欢

剪枝权值舰船
舰船通信中的噪声消除研究
一种融合时间权值和用户行为序列的电影推荐模型
人到晚年宜“剪枝”
舰船测风传感器安装位置数值仿真
基于5G MR实现Massive MIMO权值智能寻优的技术方案研究
基于YOLOv4-Tiny模型剪枝算法
基于激活-熵的分层迭代剪枝策略的CNN模型压缩
强规划的最小期望权值求解算法∗
程序属性的检测与程序属性的分类
剪枝