开云优惠体育网页版入口

专利名称：一种基于Kmeans与FR-DBN的短期负荷预测方法

专利类型：发明专利

专利申请号：CN202011307595.7

专利申请（专利权）人：国网辽宁省电力有限公司营口供电公司,国家电网有限公司
权利人地址：辽宁省营口市站前区渤海大街东40号

专利发明（设计）人：孙超,朱元成,郑薇,吴宏章,高永俊,赵晓龙,封国鹏,张尔东,马宸,尹峰,王志宏

专利摘要：一种基于Kmeans与FR?DBN的短期负荷预测方法，利用Kmeans结合共轭梯度法(FR)改进深度学习网络(DBN)的组合模型进行电力系统负荷预测，通过Kmeans聚类算法分批数据加快学习速率，同时将DBN无监督特征学习机制引入负荷预测模型中，再利用FR共轭梯度法进行优化，并将预测结果与预测所需时间分别和传统预测模型进行比较。本发明的优点：基于无监督特征学习这一视角展开，解决权重的选取带有一定的主观性这一问题，具有加快学习速率、提升预测精度优势，对保证电网安全稳定的运行具有十分重要的意义，为电力系统负荷预测提供一种新的预测方法。

主权利要求：
1.一种基于Kmeans与FR?DBN的短期负荷预测方法，其特征在于：所述的基于Kmeans与FR?DBN的短期负荷预测方法，具体包括：利用Kmeans结合共轭梯度法FR改进深度学习网络DBN的组合模型进行电力系统负荷预测，通过Kmeans聚类算法分批数据加快学习速率，同时将DBN无监督特征学习机制引入负荷预测模型中，再利用FR共轭梯度法进行优化，并将预测结果与预测所需时间分别和传统预测模型进行比较；
(1)通过Kmeans聚类算法分批数据加快学习速率，给定原始数据样本X，包含了n个对象X＝{X1,X2,X3,...,Xn}，其中每个对象都具有m个维度的属性，包括负荷数据、温度、湿度、过去1小时降水量；
首先初始化k个聚类中心{C1,C2,C3,...,Ck},1＜k≤n，然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：上式中，Xi表示第i个对象1≤i≤n,Cj表示第j个聚类中心的1≤j≤k,Xit表示第i个对象的第t个属性1≤t≤m,Cjt表示第j个聚类中心的第t个属性；
依次比较每一个对象到每一个聚类中心的距离，将对象分配到距离最近的聚类中心的类簇中，得到k个类簇{S1,S2,S3,...,Sk}，即k批数据；
(2)利用FR共轭梯度法对DBN模型进行优化，DBN由多个受限玻尔兹曼机RBM层组成，RBM是一个两层神经网络，第一层称为可见层，第二层称为隐藏层；隐藏层和可见层之间是全连接的，连接权重用矩阵W＝(ωi,j)表示，各层神经元之间是相互独立的；
权重矩阵W＝(ωi,j)中的每个元素指定了隐层单元hj和可见层单元vi之间的权重；此外对于每个可见层单元vi有偏置ai，对每个隐层单元hj有偏置bj；对于给定的状态向量h和v，RBM的能量函数可以表示为：Τ Τ Τ
E(v,h)＝?a v?b h?h Wv
根据能量函数可以得到隐含层和可见层之间的联合概率分布：
?E(v,h)
其中，Z为归一化因子，定义为在节点的所有可能取值下e 的和；类似地，可见层取值的边缘分布通过对所有隐含层状态向量求和得到：RBM为一个二分图，层内没有边相连，隐含层是否激活在给定可见层节点取值的情况下是条件独立的，可见层节点的激活状态在给定隐含层取值的情况下也条件独立；对m个可见层节点和n个隐含层节点，状态向量v对h与h对v的条件概率分别如下：RBM里各层之间采用的是sigmoid激活函数。
2.根据权利要求1所述的基于Kmeans与FR?DBN的短期负荷预测方法，其特征在于：判断标准为：
(1)MAPE值：MAPE值越低判断为预测效果越好；
(2)RMSE值：RMSE值越低判断为所预测出的负荷序列误差越。也ǘ叫。
(3)皮尔森系数：皮尔森系数越高判断为所预测出的负荷序列和实际序列的相关性越强，预测效果越好。 说明书 : 一种基于Kmeans与FR?DBN的短期负荷预测方法技术领域[0001] 本发明涉及电力系统负荷预测领域，特别涉及一种基于Kmeans与FR?DBN的短期负荷预测方法。背景技术[0002] 社会不断在进步，开云优惠体育网页版入口不断在发展，我国电力系统和电网管理日趋复杂化、现代化和完善化,电力系统负荷预测问题的研究已成为现代电力系统科学中一个重要的研究领域。电力系统负荷预测的研究已经有一段时间的历史，随着计算机技术的发展和电网对负荷预测精度要求的提高，对这一课题的研究也在不断深入。特别是随着电力市场改革的深入，它已经成为电力市场技术支持系统的重要组成部分，是电力交易市场的主要数据来源，其预测精度对电力系统有着非常重要的意义。发明内容[0003] 本发明的目的是为了克服上述问题，特提供了一种基于Kmeans与FR?DBN的短期负荷预测方法。[0004] 本发明提供了一种基于Kmeans与FR?DBN的短期负荷预测方法，其特征在于：所述的基于Kmeans与FR?DBN的短期负荷预测方法，具体包括：[0005] 利用Kmeans结合共轭梯度法(FR)改进深度学习网络(DBN)的组合模型进行电力系统负荷预测，通过Kmeans聚类算法分批数据加快学习速率，同时将DBN无监督特征学习机制引入负荷预测模型中，再利用FR共轭梯度法进行优化，并将预测结果与预测所需时间分别和传统预测模型进行比较。[0006] (1)通过Kmeans聚类算法分批数据加快学习速率，假定给定原始数据样本X，包含了负荷数据、温度、湿度、过去1小时降水量n个对象X＝{X1,X2,X3,...,Xn}，其中每个对象都具有m个维度的属性。[0007] 首先需要初始化k个聚类中心{C1,C2,C3,...,Ck},1＜k≤n，然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：[0008][0009] 上式中，Xi表示第i个对象1≤i≤n,Cj表示第j个聚类中心的1≤j≤k,Xit表示第i个对象的第t个属性1≤t≤m,Cjt表示第j个聚类中心的第t个属性。[0010] 依次比较每一个对象到每一个聚类中心的距离，将对象分配到距离最近的聚类中心的类簇中，得到k个类簇{S1,S2,S3,...,Sk}，即k批数据。[0011] (2)利用FR共轭梯度法对DBN模型进行优化，DBN由多个受限玻尔兹曼机(RBM)层组成，RBM是一个两层神经网络，第一层被称为可见层，第二层被称为隐藏层。隐藏层和可见层之间是全连接的，连接权重可以用矩阵W＝(ωi,j)表示，各层神经元之间是相互独立的。[0012] 权重矩阵W＝(ωi,j)中的每个元素指定了隐层单元hj和可见层单元vi之间的权重。此外对于每个可见层单元vi有偏置ai，对每个隐层单元hj有偏置bj。对于给定的状态向量h和v，RBM的能量函数可以表示为：[0013] E(v,h)＝?aΤv?bΤh?hΤWv[0014] 这一能量函数的形式与霍普菲尔德神经网络相似。根据能量函数可以得到隐含层和可见层之间的联合概率分布：[0015][0016] 其中，Z为归一化因子，定义为在节点的所有可能取值下e?E(v,h)的和。类似地，可见层取值的边缘分布可通过对所有隐含层状态向量求和得到：[0017][0018] 由于RBM为一个二分图，层内没有边相连，因而隐含层是否激活在给定可见层节点取值的情况下是条件独立的，可见层节点的激活状态在给定隐含层取值的情况下也条件独立。对m个可见层节点和n个隐含层节点，状态向量v对h与h对v的条件概率分别如下：[0019][0020] RBM里各层之间采用的是sigmoid激活函数。其中，单个节点的激活概率为：[0021] P(hj＝1|v)＝sigmoid(bj+Wj,:v)[0022] P(vi＝1|h)＝sigmoid(ai+WT:,jh)[0023] FR共轭梯度法求解最优解问题如下：[0024][0025] 步长因子αk由某种线性搜索得到，其一般格式为：[0026] xk+1＝xk+αkdk，k＝0,1,…[0027] 搜索方向dk格式如下：[0028][0029] 其中βk为参数，g(x)为f在x处的梯度。[0030] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，判断标准为：[0031] (1)MAPE值：MAPE值越低判断为预测效果越好；[0032] (2)RMSE值：RMSE值越低判断为所预测出的负荷序列误差越。也ǘ叫。籟0033] (3)皮尔森系数：皮尔森系数越高判断为所预测出的负荷序列和实际序列的相关性越强，预测效果越好。[0034] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，算法功能设计具体包括输入参数：[0035] (1)DBN中四层RBM的每层神经元个数：1000?500?250?30，可修改；[0036] (2)最大迭代次数maxepoch；[0037] (3)权重、可见单位偏差以及隐单位偏差的学习速率；[0038] (4)负荷原值、温度、相对湿度、过去1小时降水量、10分钟平均风向、10分钟平均风速共841组实测数据。[0039] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，算法功能设计具体包括输出结果：[0040] (1)负荷预测模型预测数据及各数据误差统计表；[0041] (2)真实数据与DBN、CG?DBN、FR?DBN三个模型预测数据的分别对比曲线图；[0042] (3)误差及皮尔森系数统计表；[0043] (4)对比分析结果：负荷预测模型运行时间、预测精度。[0044] 一种基于Kmeans与FR?DBN的短期负荷预测方法，其特征在于：[0045] (1)通过Kmeans聚类算法分批数据加快学习速率，假定给定原始数据样本X，包含了负荷数据、温度、湿度、过去1小时降水量n个对象[0046] X＝{X1,X2,X3,...,Xn}，其中每个对象都具有m个维度的属性。[0047] 首先需要初始化k个聚类中心{C1,C2,C3,...,Ck},1＜k≤n，然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：[0048][0049] 上式中，Xi表示第i个对象1≤i≤n,Cj表示第j个聚类中心的1≤j≤k,Xit表示第i个对象的第t个属性1≤t≤m,Cjt表示第j个聚类中心的第t个属性。[0050] 依次比较每一个对象到每一个聚类中心的距离，将对象分配到距离最近的聚类中心的类簇中，得到k个类簇{S1,S2,S3,...,Sk}，即k批数据。[0051] (2)利用FR共轭梯度法对DBN模型进行优化，DBN由多个受限玻尔兹曼机(RBM)层组成，RBM是一个两层神经网络，第一层被称为可见层，第二层被称为隐藏层。隐藏层和可见层之间是全连接的，连接权重可以用矩阵W＝(ωi,j)表示，各层神经元之间是相互独立的。[0052] 权重矩阵W＝(ωi,j)中的每个元素指定了隐层单元hj和可见层单元vi之间的权重。此外对于每个可见层单元vi有偏置ai，对每个隐层单元hj有偏置bj。对于给定的状态向量h和v，RBM的能量函数可以表示为：[0053] E(v,h)＝?aΤv?bΤh?hΤWv[0054] 这一能量函数的形式与霍普菲尔德神经网络相似。根据能量函数可以得到隐含层和可见层之间的联合概率分布：[0055][0056] 其中，Z为归一化因子，定义为在节点的所有可能取值下e?E(v,h)的和。类似地，可见层取值的边缘分布可通过对所有隐含层状态向量求和得到：[0057][0058] 由于RBM为一个二分图，层内没有边相连，因而隐含层是否激活在给定可见层节点取值的情况下是条件独立的，可见层节点的激活状态在给定隐含层取值的情况下也条件独立。对m个可见层节点和n个隐含层节点，状态向量v对h与h对v的条件概率分别如下：[0059][0060] RBM里各层之间采用的是sigmoid激活函数。[0061] FR共轭梯度法求解最优解问题如下：[0062][0063] 步长因子αk由某种线性搜索得到，其一般格式为：[0064] xk+1＝xk+αkdk，k＝0,1,…[0065] 搜索方向dk格式如下：[0066][0067] 其中βk为参数，g(x)为f在x处的梯度。[0068] 本发明的优点：[0069] 本发明所述的基于Kmeans与FR?DBN的短期负荷预测方法，提升了负荷预测结果的精度,有利于安全：擞肴涨凹苹,是制定日前工作计划与安全：说幕。精准的负荷预测是国家电网有限公司发供平衡和安全稳定运行的坚实基。岣咴げ饩忍乇鹗嵌唐诟汉稍げ獾木扔兄匾墓こ桃庖。附图说明[0070] 下面结合附图及实施方式对本发明作进一步详细的说明：[0071] 图1为算法流程图；[0072] 图2为真实值与不同模型预测结果的对比曲线图一；[0073] 图3为真实值与不同模型预测结果的对比曲线图二；[0074] 图4为真实值与不同模型预测结果的对比曲线图三；[0075] 图5为真实值与不同模型预测结果的对比曲线图四。具体实施方式[0076] 实施例[0077] 本发明提供了一种基于Kmeans与FR?DBN的短期负荷预测方法，其特征在于：所述的基于Kmeans与FR?DBN的短期负荷预测方法，具体包括：[0078] 利用Kmeans结合共轭梯度法(FR)改进深度学习网络(DBN)的组合模型进行电力系统负荷预测，通过Kmeans聚类算法分批数据加快学习速率，同时将DBN无监督特征学习机制引入负荷预测模型中，再利用FR共轭梯度法进行优化，并将预测结果与预测所需时间分别和传统预测模型进行比较。[0079] (1)通过Kmeans聚类算法分批数据加快学习速率，假定给定原始数据样本X，X＝{X1,X2,X3,...,Xn}，其中每个对象都具有m个维度的属性，包含了负荷数据、温度、湿度、过去1小时降水量n个对象。[0080] 首先需要初始化k个聚类中心{C1,C2,C3,...,Ck},1＜k≤n，然后通过计算每一个对象到每一个聚类中心的欧式距离，如下式所示：[0081][0082] 上式中，Xi表示第i个对象1≤i≤n,Cj表示第j个聚类中心的1≤j≤k,Xit表示第i个对象的第t个属性1≤t≤m,Cjt表示第j个聚类中心的第t个属性。[0083] 依次比较每一个对象到每一个聚类中心的距离，将对象分配到距离最近的聚类中心的类簇中，得到k个类簇{S1,S2,S3,...,Sk}，即k批数据。[0084] (2)利用FR共轭梯度法对DBN模型进行优化，DBN由多个受限玻尔兹曼机(RBM)层组成，RBM是一个两层神经网络，第一层被称为可见层，第二层被称为隐藏层。隐藏层和可见层之间是全连接的，连接权重可以用矩阵W＝(ωi,j)表示，各层神经元之间是相互独立的。[0085] 权重矩阵W＝(ωi,j)中的每个元素指定了隐层单元hj和可见层单元vi之间的权重。此外对于每个可见层单元vi有偏置ai，对每个隐层单元hj有偏置bj。对于给定的状态向量h和v，RBM的能量函数可以表示为：[0086] E(v,h)＝?aΤv?bΤh?hΤWv[0087] 这一能量函数的形式与霍普菲尔德神经网络相似。根据能量函数可以得到隐含层和可见层之间的联合概率分布：[0088][0089] 其中，Z为归一化因子，定义为在节点的所有可能取值下e?E(v,h)的和。类似地，可见层取值的边缘分布可通过对所有隐含层状态向量求和得到：[0090][0091] 由于RBM为一个二分图，层内没有边相连，因而隐含层是否激活在给定可见层节点取值的情况下是条件独立的，可见层节点的激活状态在给定隐含层取值的情况下也条件独立。对m个可见层节点和n个隐含层节点，状态向量v对h与h对v的条件概率分别如下：[0092][0093][0094] RBM里各层之间采用的是sigmoid激活函数。[0095] FR共轭梯度法求解最优解问题如下：[0096][0097] 步长因子αk由某种线性搜索得到，其一般格式为：[0098] xk+1＝xk+αkdk，k＝0,1,…[0099] 搜索方向dk格式如下：[0100][0101] 其中βk为参数，g(x)为f在x处的梯度。[0102] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，判断标准为：[0103] (1)MAPE值：MAPE值越低判断为预测效果越好；[0104] (2)RMSE值：RMSE值越低判断为所预测出的负荷序列误差越。也ǘ叫。籟0105] (3)皮尔森系数：皮尔森系数越高判断为所预测出的负荷序列和实际序列的相关性越强，预测效果越好。[0106] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，算法功能设计具体包括输入参数：[0107] (1)DBN中四层RBM的每层神经元个数：1000?500?250?30，可修改；[0108] (2)最大迭代次数maxepoch；[0109] (3)权重、可见单位偏差以及隐单位偏差的学习速率；[0110] (4)负荷原值、温度、相对湿度、过去1小时降水量、10分钟平均风向、10分钟平均风速共841组实测数据。[0111] 所述的基于Kmeans与FR?DBN的短期负荷预测方法，算法功能设计具体包括输出结果：[0112] (1)负荷预测模型预测数据及各数据误差统计表；[0113] (2)真实数据与DBN、CG?DBN、FR?DBN三个模型预测数据的分别对比曲线图；[0114] (3)误差及皮尔森系数统计表；[0115] (4)对比分析结果：负荷预测模型运行时间、预测精度。[0116] 步骤1：对数据预处理后采用Kmeans聚类分析进行分批处理，并以每批数据个数，数据元组的维度以及数据批数三项数据创建batchdata数据矩阵，同时获取batchdata数据大小。[0117] 步骤2：输入层到第一个隐藏层：设置初始化参数后，调用建立起的RBM网络结构模型开始训练数据，训练得到隐藏层的偏置值。[0118] 步骤3：第一个隐藏层到第二个隐藏层：将上一个RBM的隐藏层输出读入作为这个RBM的输入，设置隐藏层的节点数，输入的节点数由已经读入的数据得到，训练得到隐藏层的权值和偏置。第二个隐藏层到第三个隐藏层同上。[0119] 步骤4：将上述四个RBM连接起来训练数据，进而使用BP算法训练数据进行参数的微调整。在预初始化权重时，利用所得到的权值、偏置生成数据矩阵，权重预初始化结束得到每层节点个数，输入层与输出层节点个数相同。[0120] 步骤5：重复迭代到最大迭代次数后开始计算训练重构误差，按匹计算重构误差，最后求平均值。训练重构误差计算结束后计算测试重构误差，步骤同训练重构误差计算。[0121] 步骤6：测试重构误差计算结束后将分批的数据进行合并，采用FR共轭梯度法进行线性搜索最优化后得到权值参数，权值参数W为一个列向量，将W列向量重新还原成矩阵，依次重新赋值为优化后的参数。[0122] 步骤7：调用训练好的模型，带入各影响因素的数据进行预测及分析。[0123] 本发明不局限于上述实施方式，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围之内。本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。

专利地区：辽宁

专利申请日期：2020-11-20

专利公开日期：2024-11-12

专利公告号：CN112330051B