[发明专利]稀疏自注意力机制的电力价格预测方法及模型训练方法在审
申请号: | 202211060458.7 | 申请日: | 2022-08-31 |
公开(公告)号: | CN115470980A | 公开(公告)日: | 2022-12-13 |
发明(设计)人: | 陈越;钱磊;朱卓敏 | 申请(专利权)人: | 上海电享信息科技有限公司 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06Q30/02;G06Q50/06;G06N3/08;G06N3/04;G06F17/16 |
代理公司: | 苏州创元专利商标事务所有限公司 32103 | 代理人: | 吴芳 |
地址: | 200000 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 稀疏 注意力 机制 电力 价格 预测 方法 模型 训练 | ||
本发明公开了一种稀疏自注意力机制的电力价格预测方法及模型训练方法,训练方法包括:获取电力价格历史数据;对电力价格历史数据构建多项特征工程,对各项特征工程得到的向量数据进行相加操作,得到矩阵数据;根据构建特征工程后的矩阵数据,获取多个训练样本,训练样本包括历史时间点、电力价格和标签,其中,标签为后继时间点的电力价格,后继时间点与历史时间点之间的时间间隔为根据预测需求而预设的时间颗粒度;构建稀疏自注意力机制的transformer网络的稀疏自注意力机制模块,包括:将构建特征工程后的矩阵数据线性变换为矩阵,并计算其attention结果;利用transformer网络对训练样本进行训练,得到电力价格预测模型。
技术领域
本发明涉及人工智能领域,尤其涉及一种稀疏自注意力机制的电力价格预测方法及模型训练方法。
背景技术
近年来,大规模新能源正逐渐步入电网,由于风能、光能等新能源的边际成本低,电力市场的日前出清价格出现了降低的趋势,而且电不能大量存储,要时刻满足供需平衡,风能、光能等新能源的随机性和不确定性使得日前出清价格波动强烈,呈现出非平稳的特点。在含高比列新能源电力市场背景下,建立高准确率的日前电价预测模型具有重要的意义。
目前国内外对于电价预测的方法主要用统计法和机器学习方法,统计法对于非线性序列的预测效果不佳,而机器学习方法,如公开号为CN110276638A的专利申请公开了一种基于BILSTM网络的电价预测方法,可以挖掘电价在时序上的规律,但是网络模型不容易收敛,容易陷入局部最优,模型的泛化能力不强,且无法预测较长一段时间的价格。
以上背景技术内容的公开仅用于辅助理解本发明的发明构思及技术方案,其并不必然属于本专利申请的现有技术,也不必然会给出技术教导;在没有明确的证据表明上述内容在本专利申请的申请日之前已经公开的情况下,上述背景技术不应当用于评价本申请的新颖性和创造性。
发明内容
本发明的目的是提供一种电力价格预测方法及预测模型训练方法,基于稀疏自注意力机制的transformer网络,对电力价格作出准确的预测。
为达到上述目的,本发明采用的技术方案如下:
一种基于稀疏自注意力机制的电力价格预测方法,包括以下步骤:
获取目标预测时段之前的当前时段的电力价格数据;
将所述当前时段的电力价格数据输入预先训练好的电力价格预测模型;
所述电力价格预测模型输出所述目标预测时段内的电力价格预测结果;
其中,所述电力价格预测模型通过以下步骤获取:
获取电力价格历史数据;
对所述电力价格历史数据构建多项特征工程,每项特征工程将所述电力价格历史数据转换为向量数据,并对各项特征工程得到的向量数据进行相加操作,相加后的向量数据组成构建特征工程后的矩阵数据;
根据所述构建特征工程后的矩阵数据,获取多个训练样本,所述训练样本包括历史时间点、电力价格和标签,其中,所述标签为后继时间点的电力价格,所述后继时间点与所述历史时间点之间的时间间隔为根据预测需求而预设的时间颗粒度;
构建稀疏自注意力机制的transformer网络的稀疏自注意力机制模块,包括:将所述构建特征工程后的矩阵数据通过线性变换分别转换为Q、K、V矩阵,并计算关于Q、K、V矩阵的attention结果;
利用所述稀疏自注意力机制的transformer网络对所述训练样本进行训练,得到电力价格预测模型。
进一步地,承前所述的任一技术方案或多个技术方案的组合,其中一项特征工程为金融特征工程,通过以下方式构建所述金融特征工程:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海电享信息科技有限公司,未经上海电享信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211060458.7/2.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理