[发明专利]一种结合注意力机制的区域型海表面温度预测方法有效
申请号: | 201910477316.2 | 申请日: | 2019-06-03 |
公开(公告)号: | CN110197307B | 公开(公告)日: | 2023-07-25 |
发明(设计)人: | 贺琪;查铖;宋巍;赵丹枫;黄冬梅;胡泽煜 | 申请(专利权)人: | 上海海洋大学 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06F30/20 |
代理公司: | 上海伯瑞杰知识产权代理有限公司 31227 | 代理人: | 俞磊 |
地址: | 201306 上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 结合 注意力 机制 区域 表面温度 预测 方法 | ||
1.一种结合注意力机制的区域型海表面温度预测方法,其特征在于:包括如下步骤:
1)、将区域内每天的SST数据处理成一个矩阵,依次按时间先后进行排列,构成矩阵序列,作为CA-ConvLSTM模型的输入;
2)、对SST矩阵进行处理,通过卷积层提取各个记录点的分布特征;
3)、利用注意力机制为获得的矩阵特征分配注意力权重,然后将注意力权重乘上对应的矩阵特征,得到加权特征;
4)、最后,将加权特征作为ConvLSTM模型的输入,利用ConvLSTM训练预测模型,最终获得预测结果;
所述SST矩阵卷积是将SST数据整理为长度为|F|的数字矩阵序列后,利用卷积对矩阵进行特征提取以用于获取局部特征;卷积操作通过卷积核的移动来完成的,输出矩阵的每一个值就是输入矩阵中每个3×3区域的值与3×3卷积核对应位置的值乘积的和;
所述区域内每天的SST数据处理成一个W·H矩阵,区域内的SST序列F=F1,F2,…,F|F|,|F|表示SST序列的时间长度,Fi=W·H为该区域内第i(1≤i≤|F|,i∈Z)天的所有记录点的SST,即一个W·H的矩阵,这些矩阵构成的序列作为CA-ConvLSTM模型的输入;
通过卷积操作得到矩阵特征序列,在预测中,使用k天的SST来预测未来一天或五天的SST,k的取值不同;从第n天开始,这k天的矩阵特征序列为M=Mn+1,Mn+2,…,Mn+k-1,Mn+k,Mi为第i(n≤i≤n+k,i∈Z)个矩阵特征,即(W-2)·(H-2)的矩阵;
所述CA-ConvLSTM模型自动学习注意力权重的方法如下:
首先通过池化层得到每个矩阵特征的均值,即V=[vn+1,vn+2,…,vn+k-1,vn+k],此时vi是Mi矩阵中所有数值的平均值;注意力模型Φ的定义如下:
D=tanh(w*V+b) (1)
A=softmaχ(W’*D+b’) (2)
其中w,b是全连接层的权重和偏置,D是全连接层的输出以及softmax的输入,W’和b’是softmax的权重和偏置,A是softmax的输出,即注意力权重,是一个长度为k的向量,表示为A=[an+1,an+2,…,an+k-1,an+k,];之后,依次将注意力权重与对应矩阵特征相乘可得到一个新的特征序列,即加权特征序列,表示为N=Nn+1,Nn+2,…,Nn+k-1,Nn+k,Ni为第i个加权特征,Ni=ai*Mi,为一个(W-2)·(H-2)的矩阵;
在矩阵特征序列M进入ConvLSTM模型前,通过注意力机制自动给矩阵特征序列M进行加权,获得加权特征序列N;
所述ConvLSTM的计算公式如下:
it=σ(wχi*χt+whi*Ht-1+wci·Ct-1+bi) (3)
ft=σ(wχf*χt+whf*Ht-1+wci·Ct-1+bf) (4)
ot=σ(wχo*χt+wht*Ht-1+wct·Ct+bt) (6)
Ht=ot·tanh(Ct) (7)
其中*代表卷积操作,·代表对应相乘,σ是sigmoid激活函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海海洋大学,未经上海海洋大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910477316.2/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理