[发明专利]生成去冗余信息句向量的方法及相关设备在审
申请号: | 201910690370.5 | 申请日: | 2019-07-29 |
公开(公告)号: | CN110472241A | 公开(公告)日: | 2019-11-19 |
发明(设计)人: | 郑立颖;徐亮;阮晓雯 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F17/28 |
代理公司: | 44232 深圳市隆天联鼎知识产权代理有限公司 | 代理人: | 李镇江<国际申请>=<国际公布>=<进入 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量 拼接 向量矩阵 句子 自然语言处理 冗余信息 神经网络 向量维度 向量元素 均值化 | ||
本公开公开了一种生成去冗余信息句向量的方法及相关设备,涉及自然语言处理领域,该方法包括:获取句集中各句子的初始句向量;基于所述初始句向量各个向量维度上向量元素的对比,对所述初始句向量进行拼接,得到各句子的拼接句向量;基于所述拼接句向量,获取句集的拼接句向量矩阵;对所述拼接句向量矩阵进行零均值化,得到句集的目标句向量矩阵;基于所述目标句向量矩阵,确定句集中各句子的目标句向量。该方法提高了神经网络进行自然语言处理的效率。
技术领域
本发明涉及自然语言处理领域,特别是涉及生成去冗余信息句向量的方法及相关设备。
背景技术
在自然语言处理领域,对文本中的句子进行语义解析时,需要将各个句子转换为向量的形式,即,将各个句子转换为句向量,以供进行自然语言处理的神经网络进行分析处理。因此,在以句子为单位进行语义解析时,作为基础的句向量的生成影响着自然语言处理的效率。现有技术中,生成句向量的方法是通过对句子中各词汇的词向量进行简单的加权平均得到。这种方法生成的句向量通常包含大量重复、冗余的信息,从而导致在这些句向量的基础上,神经网络进行的自然语言处理的效率低下。
发明内容
基于此,为解决相关技术中如何从技术层面上实现提高神经网络进行自然语言处理的效率所面临的技术问题,本发明提供了一种生成去冗余信息句向量的方法及相关设备。
第一方面,提供了一种生成去冗余信息句向量的方法,包括:
获取句集中各句子的初始句向量;
基于所述初始句向量各个向量维度上向量元素的对比,对所述初始句向量进行拼接,得到各句子的拼接句向量;
基于所述拼接句向量,获取句集的拼接句向量矩阵;
对所述拼接句向量矩阵进行零均值化,得到句集的目标句向量矩阵;
基于所述目标句向量矩阵,确定句集中各句子的目标句向量。
在本公开的一示例性实施例中,所述获取句集中各句子的初始句向量,包括:
对所述句集中各句子进行分词,得到分词词汇;
获取各分词词汇的词向量;
基于各所述分词词汇的词向量,获取各句子的初始句向量。
在本公开的一示例性实施例中,所述基于各所述分词词汇的词向量,获取各句子的初始句向量,包括:
基于词频-逆文档频率TF-IDF算法,确定句集中所有词汇的TF-IDF值;
将所述词汇的TF-IDF值确定为所述词汇的词向量权重;
基于所述词向量权重,将各句子中所有词汇的词向量进行加权平均,得到各句子的初始句向量。
在本公开的一示例性实施例中,所述基于所述初始句向量各个向量维度上向量元素的对比,对所述初始句向量进行拼接,得到各句子的拼接句向量,包括:
确定在所有所述初始句向量中、每个向量维度上向量元素的最大值和最小值;
将所述最大值和所述最小值添加到各句子的初始句向量中,得到各句子的拼接句向量。
在本公开的一示例性实施例中,所述基于所述拼接句向量,获取句集的拼接句向量矩阵,包括:
按照句集中句子出现的前后顺序,依次将各句子的拼接句向量作为所述拼接句向量句子的行向量,得到句集的拼接句向量矩阵。
在本公开的一示例性实施例中,所述基于所述目标句向量矩阵,确定句集中各句子的目标句向量,包括:
按照句集中句子出现的前后顺序,依次将目标句向量矩阵中的行向量确定为各句子的目标句向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910690370.5/2.html,转载请声明来源钻瓜专利网。