[发明专利]生成较大神经网络在审
申请号: | 201680066508.9 | 申请日: | 2016-11-11 |
公开(公告)号: | CN108475345A | 公开(公告)日: | 2018-08-31 |
发明(设计)人: | 伊恩·古德费洛;陈天奇;乔纳森·什连斯 | 申请(专利权)人: | 谷歌有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 李宝泉;周亚荣 |
地址: | 美国加利*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种用于从较小神经网络生成较大神经网络的方法、系统和装置,包括编码在计算机存储介质上的计算机程序。在一个方面,一种方法包括:获得指定原始神经网络的数据;从原始神经网络生成较大神经网络,其中,较大神经网络具有较大神经网络结构,其包括多个原始神经网络单元和多个不在原始神经网络结构中的附加神经网络单元;初始化原始神经网络单元和附加神经网络单元的参数的值,使得较大神经网络从与原始神经网络相同的输入生成相同的输出;以及训练较大神经网络以从初始化值确定原始神经网络单元和附加神经网络单元的参数的训练值。 | ||
搜索关键词: | 神经网络 原始神经 神经网络单元 网络单元 初始化 计算机存储介质 神经网络结构 计算机程序 输入生成 网络结构 网络生成 网络 输出 | ||
【主权项】:
1.一种从较小神经网络生成较大神经网络的方法,所述方法包括:获得指定原始神经网络的数据,所述原始神经网络被配置成从神经网络输入生成神经网络输出,所述原始神经网络具有包括多个原始神经网络单元的原始神经网络结构,每个原始神经网络单元具有各自的参数,并且每个所述原始神经网络单元的每个所述参数具有各自的原始值;从所述原始神经网络生成较大神经网络,所述较大神经网络具有较大神经网络结构,所述较大神经网络结构包括:(i)所述多个原始神经网络单元,以及(ii)不在所述原始神经网络结构中的多个附加神经网络单元,每个附加神经网络单元具有各自的参数;初始化所述原始神经网络单元和所述附加神经网络单元的所述参数的值,使得所述较大神经网络从与所述原始神经网络相同的神经网络输入生成相同的神经网络输出;以及训练所述较大神经网络以从所初始化的值确定所述原始神经网络单元和所述附加神经网络单元的所述参数的训练值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201680066508.9/,转载请声明来源钻瓜专利网。