[发明专利]训练机器学习模型在审
| 申请号： | 201780030921.4 | 申请日： | 2017-05-19 |
| 公开（公告）号： | CN109313721A | 公开（公告）日： | 2019-02-05 |
| 发明（设计）人： | 米沙·万·雷·德尼尔;汤姆·绍尔;马尔钦·安德里霍维奇;若昂·费迪南多·戈梅斯·德弗雷塔斯;塞尔吉奥·戈梅斯·科梅纳雷霍;马修·威廉·霍夫曼;戴维·本杰明·普福 | 申请（专利权）人： | 渊慧科技有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08 |
| 代理公司： | 中原信达知识产权代理有限责任公司 11219 | 代理人： | 李宝泉;周亚荣 |
| 地址： | 英国*** | 国省代码： | 英国;GB |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 用于训练机器学习模型的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。一种方法包括获得机器学习模型，其中机器学习模型包括一个或多个模型参数，并且使用梯度下降技术来训练机器学习模型以优化目标函数；使用递归神经网络(RNN)确定模型参数的更新规则；以及将用于多个时步序列中的最终时步的确定的更新规则应用于模型参数。 | ||
| 搜索关键词： | 模型参数 训练机器 机器学习模型 更新规则 时步 计算机存储介质 递归神经网络 优化目标函数 计算机程序 学习 应用 | ||
【主权项】：
1.一种由一个或者多个计算机实现的方法，包括：获得机器学习模型，其中(i)所述机器学习模型包括一个或多个模型参数，并且(ii)使用梯度下降技术来训练所述机器学习模型以优化目标函数；对于多个时步中的每个时步：使用递归神经网络RNN确定针对该时步的用于所述模型参数的更新规则，包括：向所述RNN提供所述目标函数相对于用于该时步的所述模型参数的梯度作为输入；从针对该时步提供的输入生成相应的RNN输出，其中所述RNN输出包括取决于一个或多个RNN参数的用于在该时步的所述模型参数的更新规则；使用生成的输出和取决于所述多个时步中的每个先前时步的RNN目标函数来训练所述RNN，包括使用梯度下降技术来确定对于该时步使所述RNN目标函数最小化的RNN参数；基于确定的RNN参数，确定对于该时步使所述目标函数最小化的用于所述模型参数的更新规则；以及将确定的针对该时步的更新规则应用于所述模型参数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于渊慧科技有限公司，未经渊慧科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201780030921.4/，转载请声明来源钻瓜专利网。
- 上一篇：使用神经网络生成文本段的依存性解析
- 下一篇：存储器高效的基于时间的反向传播
