APP下载

基于深度学习的智能电网稳定性预测

2022-11-11张晓颖段金凤

长春大学学报 2022年8期
关键词:梯度卷积神经网络

张晓颖,段金凤,吴 琦

(长春大学 理学院,长春 130022)

作为电力系统的一项重大创新,智能电网方便了电力系统的管理,在很大程度上提升了电力系统的服务质量。为了向用户提供源源不断、质量合格的电能,要求电力系统具有很高的稳定性和可靠性[1-2]。

图1 智能电网稳定性预测研究方案流程图

目前,针对智能电网稳定性预测的相关研究较少。VERMA等[3]介绍了智能电网的规划和运行范围随着人工神经网络、深度学习等方法的引入逐步扩大。文中提供了一些智能电网组件相关的工作调查。GÜNEL等[4]展示了ML方法在提取和分析智能电网等现代工业系统设计特征方面的优势。讨论了最大似然算法,并简要研究了智能电网的应用。HOSSAIN等[5]对通过智能电网的出现引入的电力电网新技术进行了全面研究。其中,物联网集成智能电网系统可以提供高效的负荷预测和数据采集技术,具有成本效益。YOU 等[6]介绍了与传统方法相比,机器学习算法在节省模型开发和数值计算时间上对于智能电网稳定性的预测有效。ANKIT GHOSH等[7]基于人工智能技术,通过使用部分先进的最大似然算法,预测智能电网的稳定性,对其结果进行了比较。其使用的增强ML算法已被实施用来预测智能电网的稳定性。

由于电力数据庞大且涉及的算法参数较多,目前简单的机器学习模型并不能满足智能电网系统准确预测的需要。因此,本研究提出基于深度学习算法的智能电网稳定性的预测模型,多次迭代并使用多种优化器,通过仿真验证,与经典机器学习算法等进行效果和性能比较如图1所示。本研究数据来源于加州大学欧文分校(UCI)公开收集的智能电网数据库。

图2 4节点电网星形网络结构图

文章的结构如下:(1)获取加州大学欧文分校(UCI)公开收集的智能电网数据集;(2)进行数据预处理;(3)进行特征工程,确定所给的特征是否合适,降低过拟合风险;(4)利用深度学习和机器学习算法进行建模求解与模型对比。

描述数据集的详细论文见ARZAMASOV等[8],作者研究了智能电网络的不稳定性。数据为4节点的星形网络,如图 2 所示。数据集所考虑的3个维度是:反应时间(τ)、功率平衡(P)和价格弹性系数(γ)。

1 数据处理和特征工程

(1)

预处理后,绘制数据分布图,进行数据的可视化。

数据集中给定特征数为12,但仍需要进行特征筛选确定所给的特征是否合适。本研究选择过滤法与嵌入法结合的方式,进行特征选择。过滤法主要使用相关系数法,嵌入法使用随机森林算法判断特征重要性。如图 4 、图5所示,随机森林重要程度较高的变量,在基于过滤法的特征选择中相关系数也较高。其中,发电商的反应时间(tau1)影响权重最大,电力消费者的反应时间(tau2-tau4)、消费者的伽玛系数(g3-g4)影响权重较大。

图4 特征相关系数可视化

图5 随机森林法特征的重要程度

2 模型构建与结果对比

2.1 模型评价指标

对于分类问题,模型评价指标主要有准确率(Accuracy)、精密度(Precision)、召回率(Recall)、F-score和ROC-AUC曲线。同时,考虑到模型性能,模型运行耗时也作为评价指标。

2.2 BP神经网络算法

BP算法是利用输出层的误差来估计输出层的直接前导层的误差,再用这个误差估计更前一层的误差,逐层迭代,修正每层的网络权值,直到误差满足要求[9]。

本研究采用BP 神经网络模型,各层参数如表 1 所示,神经网络结构如图6所示。选取Relu函数作为隐含层的转移函数,选取Sigmoid函数作为输出层的转移函数。确定BP神经网络模型中参数batch_size为12,损失函数使用的交叉熵为binary_crossentropy,dropout值为0.2。

表1 BP神经网络各层参数表

图6 智能电网稳定性预测BP神经网络结构图

图7 智能电网稳定性CNN预测模型框架

2.3 卷积神经网络算法

卷积神经网络(CNN)[11]是一类具有深度结构的前馈神经网络,卷积神经网络由一个或多个卷积层和顶端的全连通层组成,同时也包括权重和池化层(pooling layer)。卷积层(convolutional layer)是卷积神经网络的核心层,该层的主要功能是提取输入矩阵的特征。池化层通常会在卷积层之后得到维度很大的特征,将特征切成几个区域,取其最大值或平均值,得到新的、维度较小的特征。全连接层(fully-connected layer)把所有局部特征结合变成全局特征,用来计算最后每一类的得分。

对数据集进行标准化后输入数据。卷积层的激活函数为Relu, 提高了模型的非线性表达能力,由于是二分类问题,输出层采用Sigmoid函数,同时为了防止模型过拟合,设置dropout值为0.3,batch_size值为12,损失函数为交叉熵。利用Keras框架构建CNN模型,详细模型参数如下:

表2 BP神经网络各层参数表

2.4 深度学习优化算法

随机梯度下降算法(SGD)[12]是深度学习中最基础、最典型的优化算法,在所有的n个样本中随机抽取m(m≤n)个小批量样本,这m个样本是独立同分布的。将这m个样本梯度的平均值作为算法的搜索方向。

AdaGrad算法[13]的学习速率是自动变化的,即算法在整个迭代过程中自动地调整学习率。首先给出初始学习率η,并用该学习率与历史梯度的平方根的比值作为当前迭代的学习率。而AdaGrad 算法将历史梯度的平方根作为分母,会导致学习率逐渐减小至零,导致算法提前终止,因此便有了RMSProp算法。

RMSProp算法[14]的分母不再采用历史梯度的平方根,而是采用历史梯度的指数衰减平均,即算法初始迭代点处的梯度所占权重很小,越靠后的迭代点处的梯度所占的权重越大。这样可以丢掉比较靠前的点处的梯度,从而加速算法收敛。AdaGrad 算法和 RMSProp 算法都是基于梯度L2范数的优化算法。基于动量的优化算法和基于L2范数的优化算法各有优缺点,将两者的优势结合起来,产生的新算法为Adam算法。

Adam算法[15]将具有经典动量思想的RMSProp 算法和L2范数的思想相结合。具有易于实现、计算高效、存储要求低等优势。Adam算法只需要计算损失函数的一阶梯度,不同的参数具有不同的学习率,这些学习率是算法 Adam根据参数梯度的一阶和二阶矩估计自动选取的。

图8 BP模型不同优化器损失值(左)、准确率(右)和迭代次数的关系

2.5 模型结果与对比

对BP神经网络回归预测模型的参数进行优化。主要采用SGD、Adam、AdaGrad、RMSprop4种优化算法进行参数优化,模型的预测效果如图8所示。 随着迭代次数的增加, 4种优化算法的损失函数都逐渐下降, 且 AdaGrad算法的损失函数始终低于其他3种算法。 迭代70算法次后的准确度:AdaGrad≈Adam>SGD>RMSprop,并且随着迭代次数的增加,准确度不断提高。因此,最终选用Adam算法进行优化。

在CNN模型中也对比了Adam、RMSprop、SGD和Adagrad4种优化器对CNN模型影响,效果如图9所示。SGD和Adagrad两种优化器在epoch为80之前并不能达到一个收敛的程度,说明SGD和Adagrad两种优化器在此数据集上不适用于CNN模型,Adam在模型迭代40次的时候准确率就高于RMSprop, 因此在CNN模型中使用Adam优化器。

图9 CNN模型不同优化器损失值(左)、准确率(右)和迭代次数的关系

接下来,基于定量分析对多种模型预测能力,采用Acc、Precision、Recall、F1、Auc、Time等多种评价指标定量分析经典机器学习算法与深度学习算法的预测能力。在众多机器学习算法中取效果前3的模型,分别为支持向量机、随机森林、XGB。深度学习模型包括BP神经网络和卷积神经网络如表 3 所示。

表3 各模型预测精度和性能的比较

(1)SVM模型预测精度较高(Acc=0.977 919),但其对如何确定核函数比较敏感。在相同内存下,高时间成本(Time=50.493 627 s)也是SVM的一个问题。(2)随机森林算法采用了集成算法,准确性较高(Acc=0.946 201)。但决策树个数较多时,训练的时间空间较大,可解释性差,属于黑盒模型;在噪音比较大的情况下,容易出现过拟合现象。(3)XGB模型预测精度高(Acc=0.951 713),在相对少的调参时间情况下,预测的准确率也比较高。但由于弱学习器之间存在依赖关系,难以并行训练数据。同时数据维度较高时会加大算法的计算复杂度。(4)BPNN模型迭代70次的运行时间较少,只需要6.304 808 s,预测精度相对较低(Acc=0.910 833)。且BP神经网络每次都需要更新数量较多的阈值和权值,从而导致收敛速度过慢。同时BP算法是一种速度较快的梯度下降算法,容易陷入局部最小值的问题。可能并不能得到问题的真正解。

CNN模型具有极高的预测精度,在迭代70次后,精度Acc为0.979 000。且CNN模型迭代70次后的耗时仅为28.398 703 s,仅略低于随机森林。CNN模型共享卷积核,更易处理高维数据,有利于智能电网消费者端的扩展。卷积层可以自动进行特征提取,对实时化的智能电网系统预测有实际意义。CNN在最优优化算法下的预测结果如图10所示。

图10 最优优化器下CNN预测模型的效果

3 结论

本研究基于数据挖掘和深度学习算法探究预测智能电网稳定性的方法。深度学习CNN模型其预测性能明显优于其他预测模型,Acc、Auc都比较高,且Precision和Recall表现良好。综合模型预测和定量分析的结果,CNN模型要远高于其他机器学习预测模型,因此可以选择使用Adam优化器的CNN模型作为智能电网稳定性模型。下一步可以将其推广到有更多电力消费者的实时智能电网系统中,随着逐步加强预测系统的可靠性,对实现高效配电具有重要意义。

猜你喜欢

梯度卷积神经网络
基于全卷积神经网络的猪背膘厚快速准确测定
基于神经网络的船舶电力系统故障诊断方法
基于应变梯度的微尺度金属塑性行为研究
MIV-PSO-BP神经网络用户热负荷预测
基于改进Hopfield神经网络的对地攻击型无人机自主能力评价
一种基于卷积神经网络的地磁基准图构建方法
基于3D-Winograd的快速卷积算法设计及FPGA实现
一种并行不对称空洞卷积模块①
一个具梯度项的p-Laplace 方程弱解的存在性
内容、形式与表达——有梯度的语言教学策略研究