[发明专利]用于数据项生成的循环神经网络有效
| 申请号： | 201610139237.7 | 申请日： | 2016-02-06 |
| 公开（公告）号： | CN105868829B | 公开（公告）日： | 2021-08-20 |
| 发明（设计）人： | 卡罗尔·格雷戈尔;伊沃·达尼赫尔卡 | 申请（专利权）人： | 渊慧科技有限公司 |
| 主分类号： | G06N3/06 | 分类号： | G06N3/06;G06N3/08 |
| 代理公司： | 中原信达知识产权代理有限责任公司 11219 | 代理人： | 周亚荣;安翔 |
| 地址： | 英国*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及用于数据项生成的循环神经网络。一种方法，包括：使用前一时间步的解码器的解码器隐藏状态向量，从所述数据项读取一瞥；作为编码器的输入，提供所述一瞥和所述前一时间步的所述解码器隐藏状态向量以用于处理；作为所述编码器的输出，接收该时间步的所生成的编码器隐藏状态向量；从所述所生成的编码器隐藏状态向量生成解码器输入；将所述解码器输入提供给所述解码器以用于处理；作为所述解码器的输出，接收该时间步的所生成的解码器隐藏状态向量；从该时间步的所述解码器隐藏状态向量生成神经网络输出更新；以及将所述神经网络输出更新与当前神经网络输出相结合，以生成更新的神经网络输出。 | ||
| 搜索关键词： | 用于 数据项 生成 循环 神经网络 | ||
【主权项】：
一种由一个或多个计算机实现的神经网络系统，所述神经网络系统包括：编码器神经网络，其中所述编码器神经网络是循环神经网络，所述编码器神经网络被配置成，针对由所述编码器神经网络处理的每个输入数据项以及在多个步中的每个时间步处：接收通过从所述输入数据项读取而捕获的一瞥；接收前一时间步的解码器神经网络的解码器隐藏状态向量，以及处理所述一瞥、所述解码器隐藏状态向量、以及来自所述前一时间步的所述编码器神经网络的编码器隐藏状态向量，以生成该时间步的编码器隐藏状态向量；解码器神经网络，其中所述解码器神经网络是循环神经网络，所述解码器神经网络被配置成，对于多个时间步中的每个时间步：接收该时间步的解码器输入，以及处理前一时间步的解码器隐藏状态向量和该解码器输入，以生成该时间步的解码器隐藏状态向量；以及子系统，其中，所述子系统被配置成，对于所述时间步中的每个时间步：使用前一时间步的解码器隐藏状态向量，从所述输入数据项读取所述一瞥；提供所述一瞥作为所述编码器神经网络的输入；在该时间步处，从所述编码器隐藏状态向量生成所述解码器神经网络的解码器输入；提供该解码器输入作为该时间步的所述解码器神经网络的输入；从该时间步的解码器隐藏状态向量生成该时间步的神经网络输出更新；以及将该时间步的所述神经网络输出更新与当前神经网络输出相结合，以生成更新的神经网络输出。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于渊慧科技有限公司，未经渊慧科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610139237.7/，转载请声明来源钻瓜专利网。
