[发明专利]一种基于时空两阶段注意力的非线性外源序列预测方法在审

专利信息
申请号: 202011042266.4 申请日: 2020-09-28
公开(公告)号: CN112132353A 公开(公告)日: 2020-12-25
发明(设计)人: 夏树涛;鲍际刚;夏智康;李佳维;刘鑫吉;圣亚军;朱天磊;孙继丰 申请(专利权)人: 清华大学深圳国际研究生院;深圳悟空投资管理有限公司
主分类号: G06Q10/04 分类号: G06Q10/04;G06Q40/04;G06N3/04;G06N3/08
代理公司: 深圳市君胜知识产权代理事务所(普通合伙) 44268 代理人: 温宏梅
地址: 518000 广东省深*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 时空 阶段 注意力 非线性 序列 预测 方法
【说明书】:

本申请公开了一种基于时空两阶段注意力的非线性外源序列预测方法,所述方法应用于预测网络模型,所述预测网络模型包括配置有时空注意力机制的编码器以及配置有自注意力机制的解码器,在获取到待预测的若干目标序列以及若干外源序列后,根据若干外源序列确定若干二阶外源序列;将所述若干二阶外源序列输入所述编码器,通过所述编码器确定隐空间特征;将所述隐空间特征以及所述若干目标序列输入所述解码器,通过所述解码器确定所述目标序列对应的预测序列。本申请通过在编码器端时空注意力机制,可获取外源序列之间的相关性,同时通过自注意力机制可以更好地捕获时间序列的长程依赖关系,从而提高模型预测性能,进而提高了预测序列的准确性。

技术领域

本申请涉及趋势预测技术领域,特别涉及一种基于时空两阶段注意力的非线性外源序列预测方法。

背景技术

非线性自回归外生序列预测(NARX)模型为时间序列预测模型,其被广泛应用于金融产品走势预测、气候环境的短期变化进预测以及应用与医疗场景对疫情管控走势预测等方面。但是,现有的非线性自回归外生序列预测模型普遍无法提取输入外源序列联动之间的贡献,在捕获时间序列的长程依赖方面效果有限,从而影响了非线性自回归外生序列预测模型的模型精度,从而影响了预测结果的准确性。

发明内容

本申请要解决的技术问题在于,针对现有技术的不足,提供一种基于时空两阶段注意力的非线性外源序列预测方法。

为了解决上述技术问题,本申请实施例第一方面提供了一种基于时空两阶段注意力的非线性外源序列预测方法,所述方法应用于预测网络模型,所述预测网络模型包括编码器和解码器,所述编码器配置有时空注意力机制,所述解码器配置有自注意力机制,所述方法包括:

获取待预测的若干目标序列以及若干外源序列,并根据若干外源序列确定若干二阶外源序列;

将所述若干二阶外源序列输入所述编码器,通过所述编码器确定隐空间特征;

将所述隐空间特征以及所述若干目标序列输入所述解码器,通过所述解码器确定所述目标序列对应的预测序列。

所述基于时空两阶段注意力的非线性外源序列预测方法,其中,所述获取所述待预测的若干目标序列以及若干外源序列,并根据若干外源序列确定若干二阶外源序列之后,所述方法还包括:

对于若干外源序列中的每个外源序列,确定该外源序列与若干外源序列中各外源序列的相关性序列;

根据确定的所有相关性序列确定若干二阶外源序列。

所述基于时空两阶段注意力的非线性外源序列预测方法,其中,所述编码器包括时空注意力模块以及激活模块,所述将所述若干二阶外源序列输入所述编码器,通过所述编码器确定隐空间特征,具体包括:

将若干二阶外源序列输入时空注意力模块,通过所述时空注意力模块确定各二阶外源序列各自对应的候选隐空间特征;

将各候选隐空间特征输入激活模块,通过激活模块确定隐空间特征。

所述基于时空两阶段注意力的非线性外源序列预测方法,其中,所述将若干二阶外源序列输入时空注意力模块,通过所述时空注意力模块确定各二阶外源序列各自对应的候选隐空间特征,具体包括:

所述时空注意力模块确定各二阶外源序列各自对应的时空注意力特征;

所述时空注意力模块基于各时刻注意力特征,确定各二阶外源序列各自对应的权重序列;

所述时空注意力模块基于各外源序列以及各二阶外源序列各自对应的权重序列,确定各二阶外源序列各自对应的候选隐空间特征。

所述基于时空两阶段注意力的非线性外源序列预测方法,其中,所述激活模块包括若干长短记忆单元,若干长短记忆单元与若干候选隐空间特征一一对应,并各候选隐空间特征为其对应的长短记忆单元的输入项。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学深圳国际研究生院;深圳悟空投资管理有限公司,未经清华大学深圳国际研究生院;深圳悟空投资管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011042266.4/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top