[发明专利]信息处理方法和装置有效
申请号: | 202010980519.6 | 申请日: | 2020-09-17 |
公开(公告)号: | CN112069823B | 公开(公告)日: | 2021-07-09 |
发明(设计)人: | 蔡华 | 申请(专利权)人: | 华院计算技术(上海)股份有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06N3/04 |
代理公司: | 上海京沪专利代理事务所(普通合伙) 31235 | 代理人: | 马强 |
地址: | 200072 上海市静*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 信息处理 方法 装置 | ||
1.一种信息处理装置,其特征在于,包括数据嵌入模块、特征编码模块和排序过滤模块,其中
所述数据嵌入模块,用于向量的嵌入,并将嵌入的向量发送给所述特征编码模块进行编码处理;
所述特征编码模块,用于对所述数据嵌入模块嵌入的向量进行编码处理得到编码向量,并将所述编码向量部分反馈给所述数据嵌入模块进行向量的嵌入,以及将所述编码向量输出给所述排序过滤模块进行处理;
所述排序过滤模块,用于对所述特征编码模块输出的编码向量进行迭代解码和排序过滤处理,并将迭代解码和排序过滤处理后的表示向量部分发送给所述数据嵌入模块进行向量的嵌入;其中,所述排序过滤模块包括:
迭代解码单元:用于对所述特征编码模块输出的编码向量进行迭代解码处理,并将迭代解码处理后的表示向量发送给打分单元;
打分单元:用于通过打分函数对所述表示向量进行置信度计算;
过滤单元:用于根据所述表示向量的置信度,选择出置信度大于置信度阈值的表示向量,并且将每个选择出的表示向量与其他已经选择出的表示向量进行相似度比较,并将相似度小于相似度阈值的表示向量发送给控制开关;
控制开关:用于控制所述过滤单元过滤后的表示向量发送给所述数据嵌入模块进行向量的嵌入;以及控制所述特征编码模块输出的编码向量直接进入特征解码模块进行特征解码;
所述嵌入的向量包括所述特征编码模块反馈的编码向量和所述排序过滤模块处理后反馈的表示向量,还包括预先对输入数据进行处理后的字词混合向量和位置信息向量。
2.根据权利要求1所述的装置,其特征在于,所述数据嵌入模块,具体还用于:对所述编码向量进行维度变换,得到一个固定维度大小的编码向量,根据尾实体相对于头实体的相对位置,编码得到位置编码向量,然后将其与前述的固定维度大小的编码向量进行拼接,形成新的编码向量,之后,将新的编码向量与所述字词混合向量和位置信息向量共用融入到同一个嵌入层,并发送给所述特征编码模块。
3.根据权利要求1-2中任一项所述的装置,其特征在于,还包括:
特征解码模块,用于将排序过滤模块处理后的表示向量经过自注意力机制进行序列变换,将序列变换后的解码向量经过神经网络模型进行解码并输出。
4.根据权利要求3所述的装置,其特征在于,还包括:
更新辅助模块,用于将所述特征解码模块输出的解码向量更新知识图谱,并将更新后的知识图谱发送给所述数据嵌入模块。
5.一种信息处理方法,其特征在于:
对嵌入的向量进行编码处理得到编码向量;
将所述编码向量的部分向量进行向量重新嵌入;
将所述编码向量进行迭代解码和排序过滤处理;
将所述编码向量进行迭代解码和排序过滤处理包括:
对所述编码向量进行迭代解码处理;
通过打分函数对所述迭代解码处理后的表示向量进行置信度计算;
根据所述表示向量的置信度,选择出置信度大于置信度阈值的表示向量,并且将每个选择出的表示向量与其他已经选择出的表示向量进行相似度比较;
将相似度小于相似度阈值的表示向量重新组合进行向量的嵌入;
控制特征编码模块输出的编码向量直接进入特征解码模块进行特征解码; 将所述迭代解码和排序过滤处理后的表示向量进行部分向量的重新嵌入;
所述嵌入的向量包括特征编码模块部分反馈的编码向量和排序过滤模块处理后部分反馈的表示向量,还包括预先对输入数据进行处理后的字词混合向量和位置信息向量。
6.根据权利要求5所述的方法,其特征在于,将所述编码向量进行向量的嵌入包括:
对所述编码向量进行维度变换,得到一个固定维度大小的编码向量,根据尾实体相对于头实体的相对位置,编码得到位置编码向量,然后将其与前述的固定维度大小的编码向量进行拼接,形成新的编码向量,之后,将新的编码向量与所述字词混合向量和位置信息向量共用融入到同一个嵌入层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华院计算技术(上海)股份有限公司,未经华院计算技术(上海)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010980519.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:复合型双金属锯条
- 下一篇:电源保护电路和电子设备