[发明专利]基于注意力改进的交通预测方法及计算机介质在审
申请号: | 202111293933.0 | 申请日: | 2021-11-03 |
公开(公告)号: | CN114021811A | 公开(公告)日: | 2022-02-08 |
发明(设计)人: | 曾博;葛亮;周庆;黎森文;林永全 | 申请(专利权)人: | 重庆大学 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06Q50/26;G06F17/16;G06F17/18;G06N3/04;G06N3/08 |
代理公司: | 重庆双马智翔专利代理事务所(普通合伙) 50241 | 代理人: | 顾晓玲 |
地址: | 400030 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 改进 交通 预测 方法 计算机 介质 | ||
本发明属于智能交通技术领域,具体公开了一种基于注意力改进的交通预测方法及计算机介质,该方法利用全连接层计算注意力参数,随机采样注意力参数,计算每组采样的注意力参数中的分布与平均分布的KL散度值,根据每组注意力参数中的KL散度值,获取注意力参数的概率分布与均匀分布之间的差值Top‑u,根据差值Top‑u,获取差值最大的多个注意力参数,使用一个4维的张量Φ∈RB×T×N×N对获取的注意力参数同时进行空间和时间上的卷积,将卷积后的注意力参数输入全连接层,输出预测交通流量。采用本技术方案,在使用注意力获取动态的拉普拉斯矩阵,降低计算时间复杂度和空间复杂度,增加模型的感受野。
技术领域
本发明属于智能交通技术领域,涉及一种基于注意力改进的交通预测方法及计算机介质。
背景技术
建立智能交通系统(ITS)正成为现代交通研究的关键,其中交通预测发挥着至关重要的作用,具有广泛的应用前景,如优化交通道路使用分配、提前规划客户路线、引导道路建设等。
随着交通检测器和传感器在城市道路网络上的大量使用,现代交通系统累计了大量历史数据,动态变化的交通系统中产生的大量数据中隐藏着丰富的信息和规律性。人们提出并研究了许多基于历史路网信息的模型,其中主要研究的是如何通过新的方法建立时间序列模型,并利用路段节点的空间关系。传统方法主要有卡尔曼滤波器和统计学模型,最新的方法主要是采用人工智能。
现实世界的交通系统,受到许多因素的影响,例如非线性和非平稳的交通数据、天气和事件等。从而难以挖掘空间和时间特征,现有的挖掘方法有,例如,空间状态神经网络SSNN,其目的是为了寻找基于一阶上下文记忆的时空关系;深度时空卷积DSTCN,利用卷积神经网络CNN探索空间关系,并利用递归神经网络RNN挖掘时间信息。这些模型建立了时空关系,但是忽略了道路网络在空间上的自然拓扑结构,甚至破坏了自然拓扑结构,导致模型性能不足。而采用最新研究的DGCN(Dual Graph Convolutional Networks,对偶图卷积网络)模型,为了获取到不同时间步之间的距离,采用了大量的注意力机制,需要进行大量的高维向量矩阵运算,并且在特征采样层内为了捕捉时间关系,引入了LSTM层,从而导致运算的时间复杂度和空间复杂度非常高。另由于时间复杂度和空间复杂度较高的情况,DGCN模型在特征输入模型之前便将特征由原定的60个点经过卷积变成16个点,该项缺点限制了DGCN输入时序的长度(特征采样层存在的意义),也限制了DGCN预测较远的时间节点的能力(一方面模型感受到的数据被卷积层把维度降低了,另一方面很难输入更长的时间序列数据)。
发明内容
本发明的目的在于提供一种基于注意力改进的交通预测方法及计算机介质,降低计算时间复杂度和空间复杂度。
为了达到上述目的,本发明的基础方案为:一种基于注意力改进的交通预测方法,包括如下步骤:
输入观测的交通数据,依次经过全连接层和注意力层,计算注意力参数;
随机采样注意力参数,计算每组采样的注意力参数中的分布与平均分布的KL散度值;
根据每组注意力参数中的KL散度值,获取注意力参数的概率分布与均匀分布之间的差值Top-u;
根据差值Top-u,获取差值最大的多个注意力参数;
使用一个4维的张量Φ∈RB×T×N×N对获取的注意力参数同时进行空间和时间上的卷积,将卷积后的注意力参数输入全连接层,输出预测交通流量,其中,R表示实数张量矩阵,B为mini-batch维度,T为时间维度,N×N为空间上的邻接矩阵维度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆大学,未经重庆大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111293933.0/2.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理