[发明专利]词向量的获取方法和装置、存储介质及电子装置有效
申请号: | 201910750220.9 | 申请日: | 2019-08-14 |
公开(公告)号: | CN110795936B | 公开(公告)日: | 2023-09-22 |
发明(设计)人: | 黄引刚 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/289;G06F40/216;G06F16/9535 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 张学渊 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量 获取 方法 装置 存储 介质 电子 | ||
1.一种词向量的获取方法,其特征在于,包括:
获取待识别的第一语料;
将所述第一语料合并到第二语料中,得到目标语料,其中,所述第二语料中包括锚点词集合,所述锚点词集合中锚点词的词频大于第一阈值,每个所述锚点词将分别生成对应的锚点词向量;
对所述目标语料进行切词,得到多个目标词语,其中,所述多个目标词语包括:所述锚点词及非锚点词;
获取所述多个目标词语中每个目标词语对应的目标词向量,及每个所述目标词语的出现次数和所述多个目标词语中两两目标词语为相邻词语的相邻次数,根据所述出现次数及所述相邻次数确定所述多个目标词语中两两目标词语之间的权重,其中,所述目标词向量包括:所述锚点词向量,及为所述非锚点词随机生成的候选非锚点词向量;
将每两个相邻词语的所述权重,和该两个相邻词语各自对应的所述目标词向量之间的余弦距离作为目标损失函数的输入,得到所述目标损失函数输出的损失值,其中,所述目标损失函数与所述权重呈负相关,所述目标损失函数与所述余弦距离呈负相关;在所述损失值小于第二阈值的情况下,确定所述候选非锚点词向量为与所述非锚点词匹配的目标非锚点词向量。
2.根据权利要求1所述的方法,其特征在于,在根据所述权重及所述目标词向量,确定与所述目标语料对应的损失值之后,还包括:
在所述损失值大于所述第二阈值的情况下,更新为所述非锚点词随机生成的所述候选非锚点词向量,得到更新后的所述候选非锚点词向量;
利用更新后的所述候选非锚点词向量和所述锚点词向量,及所述权重,更新所述损失值。
3.根据权利要求1所述的方法,其特征在于,根据所述出现次数及所述相邻次数确定所述权重,包括:
通过以下公式确定所述目标语料中目标词语wi和目标词语wj之间的所述权重:
其中:所述为所述目标词语wi和所述目标词语wj作为前后连续相邻词语在一起出现的次数;所述所述其中,为所述目标词语wi出现的次数,所述为所述wj出现的次数,所述N是所述目标语料中所述多个目标词语出现的总次数;
其中,所述g(cos距离(vi,vj))是所述目标词语wi对应的目标词向量vi和所述目标词语wj对应的目标词向量vj之间的余弦距离,其中,在所述vi,vj任一个不存在时,所述g(cos距离(vi,vj))=1。
4.根据权利要求1所述的方法,其特征在于,根据所述权重及所述目标词向量,确定与所述目标语料对应的损失值,包括:
通过以下公式根据所述权重及所述目标词向量,确定与所述目标语料对应的损失值:
其中,所述now_N用于表示所述目标语料中目标词语的总个数;所述neighbor(i)用于表示与目标词语wi前后相邻连续在一起出现的相邻词语;所述wij为所述目标词语wi和目标词语wj之间的权重;所述xk_vi用于表示所述目标词语wi的目标词向量;所述xk_vj用于表示所述目标词语wj的目标词向量;所述用于表示所述xk_vi和所述xk_vj之间的余弦距离。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910750220.9/1.html,转载请声明来源钻瓜专利网。