[发明专利]一种结合注意力机制的区域型海表面温度预测方法有效

专利信息
申请号: 201910477316.2 申请日: 2019-06-03
公开(公告)号: CN110197307B 公开(公告)日: 2023-07-25
发明(设计)人: 贺琪;查铖;宋巍;赵丹枫;黄冬梅;胡泽煜 申请(专利权)人: 上海海洋大学
主分类号: G06Q10/04 分类号: G06Q10/04;G06F30/20
代理公司: 上海伯瑞杰知识产权代理有限公司 31227 代理人: 俞磊
地址: 201306 上*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 结合 注意力 机制 区域 表面温度 预测 方法
【权利要求书】:

1.一种结合注意力机制的区域型海表面温度预测方法,其特征在于:包括如下步骤:

1)、将区域内每天的SST数据处理成一个矩阵,依次按时间先后进行排列,构成矩阵序列,作为CA-ConvLSTM模型的输入;

2)、对SST矩阵进行处理,通过卷积层提取各个记录点的分布特征;

3)、利用注意力机制为获得的矩阵特征分配注意力权重,然后将注意力权重乘上对应的矩阵特征,得到加权特征;

4)、最后,将加权特征作为ConvLSTM模型的输入,利用ConvLSTM训练预测模型,最终获得预测结果;

所述SST矩阵卷积是将SST数据整理为长度为|F|的数字矩阵序列后,利用卷积对矩阵进行特征提取以用于获取局部特征;卷积操作通过卷积核的移动来完成的,输出矩阵的每一个值就是输入矩阵中每个3×3区域的值与3×3卷积核对应位置的值乘积的和;

所述区域内每天的SST数据处理成一个W·H矩阵,区域内的SST序列F=F1,F2,…,F|F|,|F|表示SST序列的时间长度,Fi=W·H为该区域内第i(1≤i≤|F|,i∈Z)天的所有记录点的SST,即一个W·H的矩阵,这些矩阵构成的序列作为CA-ConvLSTM模型的输入;

通过卷积操作得到矩阵特征序列,在预测中,使用k天的SST来预测未来一天或五天的SST,k的取值不同;从第n天开始,这k天的矩阵特征序列为M=Mn+1,Mn+2,…,Mn+k-1,Mn+k,Mi为第i(n≤i≤n+k,i∈Z)个矩阵特征,即(W-2)·(H-2)的矩阵;

所述CA-ConvLSTM模型自动学习注意力权重的方法如下:

首先通过池化层得到每个矩阵特征的均值,即V=[vn+1,vn+2,…,vn+k-1,vn+k],此时vi是Mi矩阵中所有数值的平均值;注意力模型Φ的定义如下:

D=tanh(w*V+b)     (1)

A=softmaχ(W’*D+b’)   (2)

其中w,b是全连接层的权重和偏置,D是全连接层的输出以及softmax的输入,W’和b’是softmax的权重和偏置,A是softmax的输出,即注意力权重,是一个长度为k的向量,表示为A=[an+1,an+2,…,an+k-1,an+k,];之后,依次将注意力权重与对应矩阵特征相乘可得到一个新的特征序列,即加权特征序列,表示为N=Nn+1,Nn+2,…,Nn+k-1,Nn+k,Ni为第i个加权特征,Ni=ai*Mi,为一个(W-2)·(H-2)的矩阵;

在矩阵特征序列M进入ConvLSTM模型前,通过注意力机制自动给矩阵特征序列M进行加权,获得加权特征序列N;

所述ConvLSTM的计算公式如下:

it=σ(wχit+whi*Ht-1+wci·Ct-1+bi)   (3)

ft=σ(wχft+whf*Ht-1+wci·Ct-1+bf)   (4)

ot=σ(wχot+wht*Ht-1+wct·Ct+bt)   (6)

Ht=ot·tanh(Ct)      (7)

其中*代表卷积操作,·代表对应相乘,σ是sigmoid激活函数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海海洋大学,未经上海海洋大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910477316.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top