对传过程神经元网络及其应用研究
2012-08-15刘希玉
张 雷 ,刘希玉
(1.山东师范大学 信息科学与工程学院,山东 济南 250014;2.山东师范大学 管理科学与工程学院,山东 济南 250014;3.山东省分布式计算机软件新技术重点实验室,山东 济南 250014)
过程神经元网络模型[1]的提出,为解决与过程有关的系统评价问题提供了一种非传统建模求解问题的方法,也为含有大量时空信息的动态问题的分类和划分提供了一种可探索的途径。
对传神经元网络是Robert Hecht-Nielson于1987年提出的一种三层机构前向型神经元网络模型。与同构网相比,对传神经元网络的异构性使它更接近生物脑神经系统的信息处理机制,在模式识别、模式完善、信号加强等领域具有重要的应用。将传统对传神经元网络向时域进行推广,可构造出对传过程神经元网络模型。对传过程神经元网络对于时变信号模式分类、连接系统信号处理等实际问题具有较大的应用价值。本文重点讨论对传过程神经元网络模型及其学习算法,并用实例验证其模型和算法的有效性。
1 过程神经元
过程神经元由加权、聚合和激励三部分组成,与传统神经元不同之处在于过程神经元的输入和权值都可以是时变的。其聚合运算既有对空间的多输入聚合,也有对时间过程的积累[2-3]。因此过程神经元是传统神经元在时域上的扩展,传统神经元可以看成是过程神经元的特例[4]。单个过程神经元的结构如图1所示。其输入输出关系见式(1)。
图1 过程神经元模型
x1(t),x2(t),…,xn(t)为过程神经元输入,w1(t),w2(t),…,wn(t)为连接权值,K(·)为时间聚合函数,F(·)为激励函数。过程神经元输入与输出之间的关系是:
其中⊕代表某种空间聚合运算,⊗代表某种时间聚合运算。
一般情况下得到输出为:
2 对传过程神经元网络模型
2.1 网络结构
对传过程神经元网络分为三层结构的前馈网络模型,由输入层、竞争层和输出层组成,相邻各层神经元节点之间实行全互连接。设输入层有n个节点,完成n个时变函数向网络的输入;竞争层有H个节点,由过程神经元组成,该层执行广义自组织映射算法,完成对输入模式的自适应竞争分类;输出层由m个一般非时变神经元节点组成,执行Grossberg学习规则,按照系统要求给出期望输出。若过程神经元的空间聚合运算采用加权和,时间累积运算采用积分,网络拓扑结构如图2所示。
图2 对传过程神经元网络模型
x1(t),x2(t),…,xn(t)(t∈[0,T])为网络输入函数;wij(t)(i=1,2,...,n;j=1,2,...,H)为输入层节点 i到竞争层节点 j的连接权函数;vjk(j=1,2,...,H;k=1,2,...,m)为竞争层与输出层间的连接权值;yk(k=1,2,...,m)为网络输出,[0,T]为输入过程区间;f为过程神经元激励函数。
2.2 竞争学习算法
网络训练时,训练样本 X1(t),X2(t),…,Xk(t)在输入端按照某种确定的或随机的次序输入。输入层各节点向竞争层过程神经元节点j总的加权输入信号为:
定义 设函数 X(t),Y(t)∈(C[0,T])n,定 义 X(t),Y(t)在[0,T]上的相似系数为:
2.3 对传过程神经网络学习算法
对传过程神经元网络的学习过程要执行两种算法,输入层与竞争层之间执行自组织映射算法,完成对wij(t)的训练和对输入函数的自适应模式分类;竞争层与输出层之间执行Grossberg学习规则[4],完成对非时变连接参数vjk的调整,并按要求给出系统的输出。
式 中 yj(l)为 竞 争 层过程神 经 元j的 输 出 (一 个 相 似度);yk为输出层节点k的实际输出;dk为期望输出。
重复上述步骤,直到满足误差精度要求,从而完成网络的训练。
3 仿真实例
油层水淹状况识别是油田开发过程中一项十分重要而又复杂的工作。基于测井资料的水淹层判别主要依据是:反映地层地球物理性质随深度变化的各种测井曲线的形态和幅值特征及其组合关系,输出为水淹级别。实际测量时,采集到的信息实际是随深度变化的离散数据,测井曲线由离散测井数据拟合而成。由于过程神经网络的输入为连续函数,而实际测井资料为随深度等间距采样的离散数据,因此,采用基于Walsh变换[6]的方法对离散采样数据进行转换。
水淹级别按照油层水淹程度分为:未水淹、弱水淹、中水淹和强水淹4个等级。水淹层判别参数选择自然电位(SP)、声波时差(AC)、深侧向电阻 RLLD、浅侧向电阻RLLS和油层厚度h,5个变量。由于不同油层其厚度不同,油层测井数据向网络输入时,输入过程区间可能不统一,所以先对油层厚度进行归一化处理。采用均匀抽稀或加密的方法,将油层厚度归一化在[0,1]区间,每个油层在[0,1]上取 16个采样点,油层有效厚度变化由 h来表征。同时,由于各测井变量量纲不同,不同测井变量的测量数据量级相差很大,故对特征参数也要进行标准化处理。
设x为第i个地层、第j个测井数据的第l个原始测量值,标准化后的数据为 x′ijl;
这里,采用对传过程神经元网络进行测井水淹层识别。在大量取心井水淹油层分析资料中,选取80个有代表性的水淹油层样本组成训练集,40个油层样本组成测试集。对传过程神经元网络的拓扑结构确定为5-8-1型。将80个训练样本代入网络进行训练,学习精度取为0.05,最大学习次数为5 000。实验中网络迭代1 319次后收敛。用训练好的网络对训练样本进行判别,其中有74个样本判断准确,正确率为92.5%;对测试集40个样本进行判别,其中有31个样本判断正确,正确识别率为77.5%。这与目前水淹层自动判别方法的正确率相比,是一个较好的结果。
本文简要介绍了对传过程神经元网络模型及其学习算法,并以油层水淹识别仿真研究为例验证了其模型和学习算法的有效性。由仿真实例可以看出,对传过程神经元网络模型对于解决与连续时变过程相关的动态模式识别具有较好的适应性,并且为实现计算机水淹层自动识别提供了一种有效途径。
[1]HE X G,LIANG J Z.Procedure neural networks.Proc of the Conference on IntelligentInformation [C].Beijing,China: Electronic Industry Press, 2000.
[2]何新贵,梁久祯.过程神经元网络的若干理论问题[J].中国工程科学,2000,2(12):40-44.
[3]何新贵,许少华.过程神经元网络[M].北京:科学出版社,2007.
[4]HAGAN M T, DEMUTH H B, BEALE M H.神经网络设计[M].戴葵,李伯民译.北京:机械工业出版社,2002.
[5]何新贵,许少华,李盼池.自组织过程神经网络及其应用研究 [J].计算机研究与发展,2003,40(11):1612-1615.
[6]许少华,肖红,廖太平.基于离散Walsh变换的过程神经元网络学习算法[J].大庆石油学院学报,2003,27(4):58-61.