[发明专利]多义词识别方法、装置、电子设备及计算机可读存储介质有效
申请号: | 202010307555.6 | 申请日: | 2020-04-17 |
公开(公告)号: | CN111507098B | 公开(公告)日: | 2023-03-21 |
发明(设计)人: | 刘志煌 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/237 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 多义词 识别 方法 装置 电子设备 计算机 可读 存储 介质 | ||
1.一种多义词识别方法,其特征在于,包括:
确定待识别词的全局主题分布,所述待识别词是通过对文本进行分词处理得到的,所述全局主题分布表征所述文本的主题分布;
确定所述待识别词与至少一个第一关联词之间的至少一个第一互信息,包括:基于预定互信息计算公式或基于预定词向量训练工具训练得到的词向量集,从与待识别词使用时具有关联关系的至少一个样本词中得到至少一个第一关联词,并确定至少一个第一关联词分别与待识别词之间的至少一个第一互信息;并基于所述至少一个第一互信息确定所述待识别词的局部主题分布,所述第一关联词与所述待识别词具有关联关系,所述局部主题分布表征所述待识别词在所述文本中的局部上下文的主题分布;
确定所述全局主题分布与所述局部主题分布的第一相似度,并根据所述第一相似度对所述待识别词进行多义词识别处理。
2.根据权利要求1所述的方法,其特征在于,确定待识别词的全局主题分布,包括:
基于预定主题模型确定所述待识别词所在的文本的主题分布;
确定所述文本的主题分布为所述待识别词的全局主题分布。
3.根据权利要求2所述的方法,其特征在于,所述预定主题模型包括基于期望最大化算法训练得到的文档主题生成模型。
4.根据权利要求1所述的方法,其特征在于,所述确定所述待识别词与至少一个第一关联词之间的至少一个第一互信息,包括以下任一项:
基于预定互信息计算公式,确定至少一个样本词分别与所述待识别词之间的至少一个第一互信息,并根据所述至少一个第一互信息,从所述至少一个样本词中确定所述至少一个第一关联词;
根据基于预定词向量训练工具训练得到的词向量集,确定至少一个样本词的第一词向量与所述待识别词的第二词向量,计算至少一个第一词向量与所述第二词向量之间的至少一个第二相似度,并根据所述至少一个第二相似度,从所述至少一个样本词中确定所述至少一个第一关联词,以及基于所述预定互信息计算公式,计算所述待识别词与所述至少一个第一关联词之间的至少一个第一互信息。
5.根据权利要求1或4所述的方法,其特征在于,所述第一关联词为与所述待识别词同步使用的样本词,或者所述第一关联词为与所述待识别词同步使用、且同步使用的频率大于预定频率阈值的样本词。
6.根据权利要求4所述的方法,其特征在于,所述根据所述至少一个第一互信息,从所述至少一个样本词中确定所述至少一个第一关联词,包括:
从所述至少一个第一互信息中确定最大的N个第一互信息,并将所述最大的N个第一互信息分别对应的N个样本词确定为所述至少一个第一关联词,所述N为正整数;
所述根据所述至少一个第二相似度,从所述至少一个样本词中确定所述至少一个第一关联词,包括:
从所述至少一个第二相似度中确定最大的L个第二相似度,并将所述最大的L个第二相似度分别对应的L个样本词确定为所述至少一个第一关联词,所述L为正整数。
7.根据权利要求4或6所述的方法,其特征在于,所述基于所述至少一个第一互信息确定所述待识别词的局部主题分布,包括以下任一项:
确定所述至少一个第一互信息中的最大值,并确定所述最大值对应的第一关联词的全局主题分布为所述待识别词的局部主题分布;
根据最大的M个第一互信息分别对应的M个第一关联词的全局主题分布,确定所述待识别词的局部主题分布,所述M为正整数;
根据所述至少一个第一互信息分别对应的至少一个第一关联词的全局主题分布,确定所述待识别词的局部主题分布。
8.根据权利要求1所述的方法,其特征在于,根据所述第一相似度对所述待识别词进行多义词识别处理,包括:
当所述第一相似度大于或等于预定相似度阈值,确定所述待识别词为非多义词,并对所述待识别词进行相应的非多义词处理;
当所述第一相似度小于预定相似度阈值,确定所述待识别词为多义词,并对所述待识别词进行相应的多义词处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010307555.6/1.html,转载请声明来源钻瓜专利网。