APP下载

基于长短时记忆算法的火电厂过热气温控制系统参数优化方法研究

2024-05-09

技术与市场 2024年4期
关键词:梯度神经网络函数

陈 晨

山东兖矿技师学院,山东 邹城 273500

0 引言

传统的火电厂过热气温控制系统通常使用经验规则或PID控制器进行调节,这些方法在应对复杂的非线性系统和快速变化的工况下存在一定的局限性。随着深度学习技术的不断发展,特别是长短时记忆(long short term memory,LSTM)算法的出现,为优化火电厂过热气温控制系统提供了新的可能性。LSTM算法是一种递归神经网络,能够处理时间序列数据,具备捕捉长期依赖关系的能力。这种算法在语音识别、自然语言处理和时间序列预测等领域已经取得显著成功。因此,将LSTM算法应用于火电厂过热气温控制系统的优化,可以实现更智能化的温度预测和控制,以应对复杂的工况以及温度的实时变化。

1 递归神经网络在过热气温控制系统中的应用

1.1 递归神经网络的前向推算

(1)

(2)

1.2 递归神经网络的参数更新

1)在向前传播阶段,将训练数据输入到RNN中,系统按照不同的时间节点和步骤计算隐藏状态和输出,并生成模型的预测结果。

2)明确使用预测结果和真实标签(或目标值)之间的差异,计算损失函数(通常是均方误差、交叉熵等)。损失函数能够展示模型的性能。

3)从最后1个时间步骤开始,通过反向传播,计算损失函数对于每个时间步骤的隐藏状态和输出的梯度,该梯度数据通过链式法则来实现。梯度会被反向传播到各个时间步骤,然后再传递到权重和偏置。这是RNN训练的关键部分。梯度传递通常使用LSTM或门控循环单元(GRU)等改进型RNN来解决梯度消失问题。

4)得到关于损失函数的梯度后,系统可以使用梯度下降算法的一种变种(如随机梯度下降、Adam、RMSprop等)来更新RNN的权重和偏置。更新规则如下。①从梯度计算中获得权重和偏置的梯度[2]。②将梯度与学习率相乘,以确定更新的步长。③使用更新步长来调整每个权重和偏置。本次研究中,相关研究人员引入反向传播算法,通过这种方式令梯令LSTM神经网络变得具有“记忆性”,其公式为:

(3)

5)在每个训练样本上重复执行上述步骤,直到训练样本趋于收敛状态,即损失函数不再显著减小,或者训练次数达到预定值。

在每个训练迭代中,系统会根据损失函数的梯度对RNN的参数进行微调,以逐渐提高模型的性能。在迭代工过程中,设计人员需要谨慎选择学习率、损失函数和正则化方法,以确保模型能够有效地学习和泛化。

2 长短时记忆神经网络过热气温控制系统中的应用

LSTM接受输入序列中每个时间步骤都有1个输入,并生成相应的输出序列。序列是LSTM内部的记忆单元,用于存储和传递信息。为创新LSTM中可以引入输入门、遗忘门和输出门3个门控机制。其中,遗忘门输出计算公式为:

it=δ(wixt+Uiht-1+Vict-1+bi)

(4)

式中:c为细胞计算方式;U为输入层;V为输出层;ct-1代表t-1时刻下的细胞计算方式;ht-1代表t-1时刻下计算单元输出;b代表偏置项。输入门决定哪些信息将被写入细胞状态;遗忘门则决定哪些信息将被从细胞状态中删除;输出门则控制哪些信息将被输出到输出序列。这些门控机制通过激活函数来调整细胞状态,根据当前输入数据和前一个时间步的隐藏状态来决定信息的流动。

在每个时间步骤,LSTM接收输入数据并使用门控机制来更新细胞状态和隐藏状态。在细胞下数据之间存在长期依赖关系,而隐藏状态下数据包含当前时间步的信息,将在下一个时间步骤传递。通过这种方式,LSTM可以有效地捕捉序列中的信息,记住关键内容,然后生成适当的输出。

LSTM因其门控机制的巧妙设计而成为处理自然语言处理、时间序列预测和其他序列数据任务的有力工具。其内部结构和机制允许模型在处理各种序列数据时更好地处理长期依赖关系,从而提高了模型的性能。

本次研究中,相关工作人员将被调量时间序列设为y(t),并将其视为一个近似于p阶次的回归模型,其计算公式为:

y(t)=f(y(t-1),y(t-2),…,y(t-p))+ε(t)

(5)

式中:f代表非线性方程;ε(t)代表误差方程。

研究人员基于LSTM算法进行时序预测过程中,p个历史时刻的数学表达式为{y(t-1),y(t-2),…,y(t-p)},则该时序预测的t时刻输出值可以表示为:

y(t)=f(y(t-1),y(t-2),…,y(t-p))+e(t)

(6)

3 长短时记忆神经网络时间预测建模

研究人员对收集到的时序数据进行预处理,其目的在于对数据进行平稳化、归一化运算,将其转化为滑动窗口序列。在此基础上,研究人员构建LSTM模型,该模型包含多个LSTM层,以及全连接层进行模型输出。在训练阶段,模型将利用历史数据学习数据中的模式和关系,通常通过优化损失函数来调整模型的权重和偏置[3]。研究人员可以使用验证集评估模型进行科学调整,以确保模型不会过拟合。研究人员通过测试集进行实际的时间预测,并根据预测结果进行模型的反馈和优化,进而调整模型架构、超参数等。

本次研究中,工作人员共收集了1 000项数据,时间跨度为100 min,这些数据中的90%被用于训练数据,剩余10%数据被用于测试。研究人员将数据预测时间步长设为20 min,对数据进行平稳化与归一化运算,得到初始参数(见表1)。

表1 预测模型相关参数

研究人员将初始学习率设定为0.01,在经过50轮学习训练后得到该模型学习率。此外,为防止训练过程中出现梯度爆炸问题,研究人员将梯度阈值调整为1,本次模型训练时长共计10 min。研究人员输入时间序列x(t)(t=1,2,…)以及输出预测时间序列y(t)(t=1,2,…),同时得到2个序列的矩阵为:

(7)

(8)

实际进行模型训练过程中,为了提高预测结果与真实结果的贴合度,研究人员引入均方根误差(RMSE)指标,筛除预测过程中出现的极小、极大误差,进一步提高预测准确性,误差计算公式为:

(9)

式中:i为神经元序号;n为数量;ypredict代表一级减温器出口的预测温度;ytest代表一级减温器出口的真实温度;n代表测试次数。预测值与真实值偏差如图1所示。

图1 LSTM与RNN预测误差

分析图1可以发现,基于LSTM算法的预测模型,其RMSE为0.453 62,基于RNN算法的预测RMSE为0.500 32。由此可以看出,基于LSTM神经网络的温度预测模型预测精度更高[4]。

4 神经网络与加密算法指标参数优化

4.1 基于LSTM和α-MD性能评估指标的参数优化

1)定义优化目标。明确参数优化的目标,LSTM神经网络中的某个具体性能指标,例如损失函数(如均方误差),或者其他你所关心的性能指标,例如准确度或召回率。

2)建立初始LSTM模型。开始时,创建一个初始的LSTM模型作为基准。这个基准模型可以具有默认的网络架构和参数设置,作为加密算法(message digest简称α-MD)优化的起始点。

3)选择α-MD算法。在与LSTM结合的过程中,选择合适的α-MD算法。这可能包括基于模型的贝叶斯优化、遗传算法、模拟退火等,不同的算法适用于不同类型的参数搜索和优化任务。

4)定义参数搜索空间。明确定义需要进行优化的参数空间,例如LSTM的层数、每层的神经元数量、学习率、批次大小等,这些参数是α-MD算法将要搜索和调整的参数。

5)设置优化目标函数。为α-MD算法制定一个明确的优化目标函数,该函数将评估LSTM模型性能。通常情况下,目标函数将基于模型在验证集上的性能。

6)运行α-MD优化。启动α-MD算法在定义参数空间中搜索,以找到最佳的参数组合。在每次迭代中,算法将根据目标函数的输出逐渐优化参数。

7)验证和评估。在每次迭代中,验证经过α-MD优化后的LSTM模型的性能。确保性能不仅在改善,而且不会发生显著的下降,以避免陷入局部最优解。

8)停止条件。明确定义停止α-MD优化的条件[5]。这可以达到最大迭代次数,性能不再显著提高等。

9)应用最优参数。一旦α-MD优化完成,将找到的最佳参数组合应用于LSTM模型中,取代初始设置。

10)进一步优化。在获得最优参数后,可以考虑进行更细致的微调,例如调整学习率、正则化项或丢弃率,以进一步提高LSTM模型的性能。

4.2 仿真验证

由于过热蒸汽控制系统在实际运行过程中,可能出现滞后问题,研究人员为了减少数据波动,使用在Simulink环境下搭建的第三级喷水式减温控制模型,并将负荷调整至37%,初始温度设定为542 ℃,温度升高值设定为5 ℃,通过仿真模拟得到导前区以及惰性区气温变化输出数据。得到气温变化数据后,研究人员基于LSTM网络计算该系统α-MD指数,最终得到结果为1.027 8。根据性能等级划分表,该数据的性能表现仍为“良”级别,优化效果不明显。因此,研究人员再次增加比例增益(Kp)以及增益时间(TI),经过调整后重新建α-MD指数(见表2)。

表2 优化调节过程

分析表2可以发现,调整控制器参数后,该系统超调量降低,调节时间缩短,性能等级由“良”变为“优”,证明该优化措施有效。

5 结束语

本次研究中,研究人员结合LSTM深度学习技术以及参数优化方法,更为高效地调整过热气温控制系统的参数,以提高系统的性能、效率和稳定性。这项研究的结果为火电厂运营商和工程师提供了有效的工具,使他们能够更好地适应不断变化的运营条件和需求。在未来,研究人员可以进一步扩展这项研究,以涵盖更广泛的控制系统应用,包括不同类型的能源生产设施。此外,还可以考虑引入更多的智能控制策略,进一步提高系统的自适应性和鲁棒性。本研究为能源行业的可持续性发展,以及生产效率的提升提供了技术支持,有望在减少资源浪费和环境影响方面产生积极影响。

猜你喜欢

梯度神经网络函数
一个改进的WYL型三项共轭梯度法
二次函数
第3讲 “函数”复习精讲
二次函数
函数备考精讲
一种自适应Dai-Liao共轭梯度法
神经网络抑制无线通信干扰探究
一类扭积形式的梯度近Ricci孤立子
基于神经网络的拉矫机控制模型建立
复数神经网络在基于WiFi的室内LBS应用