[发明专利]一种训练神经网络的方法及系统有效

专利信息
申请号: 201911202734.7 申请日: 2019-11-29
公开(公告)号: CN111079574B 公开(公告)日: 2022-08-02
发明(设计)人: 蒋亮;温祖杰;梁忠平;张家兴 申请(专利权)人: 支付宝(杭州)信息技术有限公司
主分类号: G06V40/10 分类号: G06V40/10;G06V10/82;G06N3/04;G06N3/08
代理公司: 成都七星天知识产权代理有限公司 51253 代理人: 杨永梅
地址: 310000 浙江省杭州市*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 训练 神经网络 方法 系统
【说明书】:

本说明书实施例公开了一种训练神经网络的方法及系统。所述方法包括:将训练数据输入N层神经网络,第K层神经网络输出第一概率分布,第N层神经网络输出第二概率分布;其中,N大于K,N和K为大于0的整数;根据所述第一概率分布与所述第二概率分布,确定第一反馈信号;根据所述第一反馈信号调节1~K层神经网络的参数,使得所述1~K层神经网络学习所述第N层神经网络输出的第二概率分布,得到训练好的K层神经网络。

技术领域

本说明书实施例涉及数据处理领域,特别涉及一种训练神经网络的方法及系统。

背景技术

随着人工智能领域的快速发展,神经网络得到了广泛的应用。例如,通过神经网络对数据进行实时预测。当数据的预测精度要求特别高时,通常采用深层神经网络进行处理,然而,由于深层神经网络的层数多,参数量多,其预测速度较慢。

因此,如何同时保证神经网络预测效果和预测速度成为目前亟需解决的技术问题。

发明内容

本说明书实施例的一个方面提供一种训练神经网络的方法,所述方法包括:将训练数据输入N层神经网络,第K层神经网络输出第一概率分布,第N层神经网络输出第二概率分布;其中,N大于K,N和K为大于0的整数;根据所述第一概率分布与所述第二概率分布,确定第一反馈信号;根据所述第一反馈信号调节1~K层神经网络的参数,使得所述1~K层神经网络学习所述第N层神经网络输出的第二概率分布,得到训练好的K层神经网络。

本说明书实施例的一个方面提供一种基于神经网络进行预测的方法,所述方法包括:采用如上所述的训练好的K层神经网络对目标数据进行预测,得到目标数据的目标预测结果。

本说明书实施例的一个方面提供一种训练神经网络的系统,所述系统包括:概率分布确定模块,用于将训练数据输入N层神经网络,第K层神经网络输出第一概率分布,第N层神经网络输出第二概率分布;其中,N大于K,N和K为大于0的整数;反馈信号确定模块,用于根据所述第一概率分布与所述第二概率分布,确定第一反馈信号;参数调节模块,用于根据所述第一反馈信号调节1~K层神经网络的参数,使得所述1~K层神经网络学习所述第N层神经网络输出的第二概率分布,得到训练好的K层神经网络。

本说明书实施例的一个方面提供一种训练神经网络的装置,所述装置包括至少一个存储介质和至少一个处理器,所述至少一个存储介质用于存储计算机指令;所述至少一个处理器用于执行所述计算机指令以实现如上所述的任一项训练神经网络的方法。

本说明书实施例的一个方面提供一种计算机可读存储介质,所述存储介质存储计算机指令,当计算机读取存储介质中的计算机指令后,计算机运行如上所述的任一项训练神经网络的方法。

附图说明

本说明书将以示例性实施例的方式进一步描述,这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的,在这些实施例中,相同的编号表示相同的结构,其中:

图1是根据本说明书的一些实施例所示的示例性训练神经网络系统的模块图;

图2是根据本说明书的一些实施例所示的训练神经网络方法的示例性流程图;

图3是根据本说明书的一些实施例所示的确定第一反馈信号方法的示例性流程图;

图4是根据本说明书的一些实施例所示的确定第二反馈信号方法的示例性流程图;以及

图5是根据本说明书的一些实施例所示的确定第三反馈信号方法的示例性流程图。

具体实施方式

为了更清楚地说明本说明书实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本说明书的一些示例或实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明,图中相同标号代表相同结构或操作。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911202734.7/2.html,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top