[发明专利]一种多时间尺度记忆增强的人工神经网络在审
申请号: | 202011635173.2 | 申请日: | 2020-12-31 |
公开(公告)号: | CN112766457A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 郭雨晨;孙希明;孙翀贻;丁贵广;戴琼海 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 王萌 |
地址: | 10008*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 多时 尺度 记忆 增强 人工 神经网络 | ||
本申请提出一种多时间尺度记忆增强的人工神经网络,包括:特征数据提取模块,用于对输入数据进行特征提取,得到输入数据的特征数据;记忆编码模块,用于基于时间尺度因子和记忆采样时间因子对特征数据进行记忆编码,获得与特征数据对应的记忆信息;多时间尺度变换模块,用于对记忆信息进行多时间尺度变换,获得多时间尺度的记忆信息;记忆提取模块,用于将多时间尺度的记忆信息与记忆模块之中记忆信息进行匹配,以提取出与多时间尺度的记忆信息匹配的目标记忆信息;记忆融合模块,用于将多时间尺度的记忆信息与目标记忆信息进行融合,获得针对输入数据的增强表示;推理模块,用于对增强表示进行推理,以得到针对输入数据的推理结果。
技术领域
本申请涉及计算机人工智能领域,尤其涉及一种多时间尺度记忆增强的人工神经网络。
背景技术
以深度神经网络为首的人工智能技术经过长时间的不断发展,取得了一系列前所未有的成就,在多个领域都有着十分成熟的应用。在人工智能技术大量应用的同时,其存在的许多缺陷也逐渐暴露出来,当下的人工智能技术存在着自适应性不强、鲁棒性不高等多方面的问题。具体表现为:当前的深度学习网络一般针对某一问题需要设计其对应适合的网络结构,在多变的复杂环境中缺乏自适应以及自主学习、优化调整等能力;当前的深度学习网络在面对数据中出现噪声、应用场景变化等情况时,准确率会出现显著下降。由此可见,如何改进现有的神经网络,以使其获得能够在多变复杂环境中的适应性,以及对多噪声、多干扰数据推理的鲁棒性,是至关重要的。
发明内容
本申请旨在至少在一定程度上解决上述的技术问题之一。
为此,本申请的一个目的在于提出一种多时间尺度记忆增强的人工神经网络,该新型神经网络在传统神经网络的基础上,根据脑皮质-海马体记忆交互构成的记忆环路启发,融入记忆模块,实现对记忆的多尺度编码与存取,并通过记忆的更新与融合,实现推理过程的多时间尺度记忆增强,能够有效的提升人工神经网络的推理性能。
为达上述目的,本申请一方面实施例提出了一种多时间尺度记忆增强的人工神经网络,包括:
特征数据提取模块,用于对输入数据进行特征提取,得到所述输入数据的特征数据;
记忆编码模块,用于基于时间尺度因子和记忆采样时间因子对所述特征数据进行记忆编码,获得与所述特征数据对应的记忆信息;
多时间尺度变换模块,用于对所述记忆信息进行多时间尺度变换,获得多时间尺度的记忆信息;
记忆提取模块,用于将所述多时间尺度的记忆信息与记忆模块之中记忆信息进行匹配,以提取出与所述多时间尺度的记忆信息匹配的目标记忆信息;
记忆融合模块,用于将所述多时间尺度的记忆信息与所述目标记忆信息进行融合,获得针对所述输入数据的增强表示;
推理模块,用于获取针对所述输入数据的增强表示,并对所述增强表示进行推理,以得到针对所述输入数据的推理结果。
在一些实施例中,所述特征数据提取模块,还用于对带标注的样本数据进行特征提取,得到所述样本数据的特征数据;
所述记忆编码模块,还用于基于时间尺度因子、记忆采样时间因子和记忆因子对所述样本数据的特征数据进行记忆编码,获得所述样本数据的记忆信息,并将所述样本数据的记忆信息发送给所述记忆模块;
所述记忆模块用于存储所述样本数据的记忆信息。
在一些实施例中,所述多时间尺度变换模块具体用于:
基于一维高斯核对所述记忆信息进行平滑处理,并对平滑处理后得到的数据进行降采样,获得多时间尺度的记忆信息。
在一些实施例中,所述记忆提取模块在记忆匹配提取的过程中,使用距离作为记忆匹配的指标。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011635173.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:空调器的控制方法及空调器
- 下一篇:一种专用移动式餐余垃圾处理装置