[发明专利]神经网络中网络表示生成、编码方法和装置在审
| 申请号： | 201910167405.7 | 申请日： | 2019-03-06 |
| 公开（公告）号： | CN110163339A | 公开（公告）日： | 2019-08-23 |
| 发明（设计）人： | 涂兆鹏;王龙跃;杨宝嵩 | 申请（专利权）人： | 腾讯科技（深圳）有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06F9/30 |
| 代理公司： | 深圳市隆天联鼎知识产权代理有限公司 44232 | 代理人： | 刘抗美;叶虹 |
| 地址： | 518000 广东省深圳*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明揭示了一种神经网络中网络表示生成、编码方法和装置、编码器、机器设备。所述方法包括：获取输入序列中元素对应的空间表示；通过对空间表示的编码，生成键值对向量序列以及映射至键值对向量序列中键向量序列的请求向量序列；相对元素进行局部元素的键向量序列提取，获得以元素为中心的键向量序列集合；通过计算请求向量序列和键向量序列集合的关联性，得到键向量序列集合对应值向量序列集合的权重系数；通过权重系数以及键向量序列集合对应的值向量序列集合，生成对元素输出的网络表示，由于权重系数不再是分散的权重分布，其是基于该元素请求向量序列的关联性得到的，因此局部信息得到强化，神经网络的局部上下文捕获能力得到相应提升。 | ||
| 搜索关键词： | 向量序列 集合 权重系数 神经网络 网络表示 方法和装置 空间表示 关联性 局部上下文 机器设备 计算请求 局部信息 局部元素 输入序列 元素请求 编码器 权重 映射 捕获 输出 | ||
【主权项】：
1.一种神经网络中的网络表示生成方法，其特征在于，所述方法包括：处理器获取输入序列中元素对应的空间表示，所述输入序列是神经网络生成网络表示的源输入；通过所述元素对应空间表示的编码，生成所述元素的键值对向量序列以及映射至所述键值对向量序列中键向量序列的请求向量序列；相对所述元素进行局部元素的键向量序列提取，获得以所述元素为中心的键向量序列集合；所述处理器连接相应的运算部件计算所述请求向量序列和所述键向量序列集合的关联性，得到所述键向量序列集合对应值向量序列集合的权重系数；通过所述权重系数以及所述键向量序列集合对应的值向量序列集合，生成所述神经网络对所述元素输出的网络表示。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于腾讯科技（深圳）有限公司，未经腾讯科技（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910167405.7/，转载请声明来源钻瓜专利网。
