[发明专利]一种基于神经网络的PM2.5浓度值预测方法在审
申请号: | 201910743315.8 | 申请日: | 2019-08-13 |
公开(公告)号: | CN110619384A | 公开(公告)日: | 2019-12-27 |
发明(设计)人: | 付明磊;乐曹伟 | 申请(专利权)人: | 浙江工业大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G01N15/06 |
代理公司: | 33241 杭州斯可睿专利事务所有限公司 | 代理人: | 王利强 |
地址: | 310014 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模态分解 神经网络 预测 采集原始数据 神经网络预测 主成分分析 注意力机制 历史数据 数据时序 数据特征 位置向量 有效数据 预测结果 变换器 时间点 相关度 分解 | ||
1.一种基于神经网络的PM2.5浓度值预测方法,其特征在于,所述方法包括以下步骤:
步骤1、采集原始数据,以PM2.5历史浓度值为主体;
步骤2、采用模态分解方法对PM2.5的历史浓度值进行分解并且挑选其有效数据,其过程如下:
步骤2.1、将PM2.5的历史浓度值设定为时序信号A,并将A表示为{A}={a1,a2,…ai,...,aN},其中,ai为第i个PM2.5的历史浓度值,i为整数且1≤i≤N,N为PM2.5历史浓度总个数;
步骤2.2、找到整段信号的所有局部极值点(最大值点和最小值点),并用Bi对这些极值点进行标注,其中1<i<n,n为极值点的总个数;
步骤2.3、将所有的相邻的Bi点用线段连接,并用Ci标记这些线段的中点,Ci中的i的取值范围为1<i<n-1,n为极值点的总个数;
步骤2.4、添加左边界中点C0和右边界的中点Cn;
步骤2.5、用这些n+1个中点构造m个差值曲线L1,...,Lm,并通过公式计算平均值,其中,m≥1;
步骤2.6、在A-L′重复上述2.2~2.5的步骤,直到|L′|≤ε,ε为可允许的最小误差,或者重复至初始设置的筛选次数K,从而得到第一个模式I1;
步骤2.7、对于A-I1的剩余值,重复上述2.2~2.6的步骤,得到I2,I3,...,Ip直到最后一个残余量R,其中,1≤p≤n;
步骤2.8、在有限的整数区间[Kmin,Kmax]更改筛选次数K,Kmin为K取值的最小值,Kmax为K取值的最大值,重复上步骤2.2~2.7,计算A-R的方差σ2和A的标准差σ0,并绘制以σ/σ0为纵坐标,以K的取值为纵坐标的关系图。
步骤2.9、在[Kmin,Kmax]上找到σ/σ0最小的时候K对应的值K0,用K0代入步骤2.2~2.7,输出整个分解模式。
步骤2.8、对于已经得到的分解模式数据,对其进行主成分分析,根据需要提取出对PM2.5浓度值影响较大的几组分量数据;
步骤3、采用神经网络预测PM2.5的浓度值,过程如下:
步骤3.1、创建一个包含编码和解码两个模块的神经网络,该神经网络主要由位置信息计算层、注意力机制层、位置全连接前馈层组成;
步骤3.2、设定网络的输入和输出维度,并设定网络隐含层单元数M,该节点单元数M采用经验公式给出的估计值,如下式所述:
上式中,a为输入层神经元个数,b为输出层的神经元个数,c是取值范围为0~10之间的常数;
步骤3.3、定义位置信息计算层输出公式,偶数位置的输出PEpos,2i和奇数位置的输出PEpos,2i+1分别为:
其中,pos代表输入位置,i代表输入维度,dmodel为512,sin()为正弦函数,cos()为余弦函数;
步骤3.4、定义其注意力机制输出,由下式表示
Attentionoutput=Attention(Q,K,V)
其中,上式中的Q是查询向量,K是键向量,V是值向量,定义Q在第i维度上面的值为Qi,K在第i维度上面的值为Ki,V在第i维度上面的值为Vi,Qi、Ki、Vi与输入值Xi之间存在以下关系:
Qi=Xi*WiQ
Ki=Xi*WiK
Vi=Xi*WiV
上式中,WiQ为Xi在Q层的权重,WiK为Xi在K层的权重,WiV为Xi在V层的权重;
步骤3.5、全连接前馈层网络由一个ReLU激活函数和一个线性激活函数组成,定义位置全连接前馈层网络输出,若将注意力机制层输出表示为Y1,则全连接前馈层网络FFN输出FFN(Y)为:
FFN(Y)=max(0,Y1W1+b1)W2+b2
其中,Y1∈R,W1为Y1在ReLU层的权重,,W2为ReLU层的输出在线性函数层的权重,b1为ReLU层的偏置系数,b2为线性函数层的偏置系数;
步骤3.6、设定网络的期望最小误差值,最大迭代次数和学习率;
步骤3.7、将步骤2中分解后所得的数据输入到步骤3.1~3.6中所创建的神经网络中,训练神经网络;
步骤3.8、判断神经网络是否收敛,当误差小于设定的神经网络的最小误差的时候,神经网络达到收敛;
步骤3.9、将用于预测的PM2.5数据输入到已经训练完成的神经网络模型中,得到PM2.5浓度的最终预测值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910743315.8/1.html,转载请声明来源钻瓜专利网。