[发明专利]一种文本相似度计算方法、装置、电子设备及存储介质在审
申请号: | 201811066429.5 | 申请日: | 2018-09-13 |
公开(公告)号: | CN110895656A | 公开(公告)日: | 2020-03-20 |
发明(设计)人: | 徐乐乐 | 申请(专利权)人: | 武汉斗鱼网络科技有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/30;G06K9/62 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 430070 湖北省武汉市武汉东湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 相似 计算方法 装置 电子设备 存储 介质 | ||
1.一种文本相似度计算方法,其特征在于,包括:
基于word2vec空间向量模型计算两个待匹配文本句之间的语义相似度;
基于文档主题生成模型LDA计算所述两个待匹配文本句之间的主题相似度;
根据所述语义相似度和所述主题相似度确定所述两个待匹配文本句之间的综合相似度。
2.根据权利要求1所述的方法,其特征在于,所述基于word2vec空间向量模型计算两个待匹配文本句之间的语义相似度,包括:
将所述两个待匹配文本句在所述word2vec空间向量模型中做映射,分别得到所述两个待匹配文本句对应的文本向量;
基于所述文本向量计算所述两个待匹配文本句之间的语义相似度。
3.根据权利要求2所述的方法,其特征在于,所述基于所述文本向量计算所述两个待匹配文本句之间的语义相似度,包括:
按照如下公式计算所述两个待匹配文本句之间语义相似度:
其中,vecSim(A,B)表示待匹配文本句A与待匹配文本句B之间的语义相似度,表示待匹配文本句A在word2vec空间向量模型中对应的文本向量,表示待匹配文本句B在word2vec空间向量模型中对应的文本向量,n表示文本向量和的维度。
4.根据权利要求2所述的方法,其特征在于,在所述基于word2vec空间向量模型计算两个待匹配文本句之间的语义相似度之前,所述方法还包括:
收集目标领域的文本句,以形成针对所述目标领域的语料库;
以所述语料库中的文本句为训练数据,生成所述word2vec空间向量模型。
5.根据权利要求1所述的方法,其特征在于,所述基于文档主题生成模型LDA计算所述两个待匹配文本句之间的主题相似度,包括:
按照如下公式计算所述两个待匹配文本句之间的主题相似度:
其中,SimLDA(A,B)表示待匹配文本句A与待匹配文本句B之间的主题相似度,Di表示LDA模型的主题集合中的第i个主题,表示待匹配文本句A中的词Vi在主题为Di下的分布概率,表示待匹配文本句B中的词Vi在主题为Di下的分布概率,LA表示待匹配文本句A中词的总数,LB表示待匹配文本句B中词的总数,m表示待匹配文本句A中的词与待匹配文本句B中的词组成的集合中词的总数。
6.根据权利要求1所述的方法,其特征在于,所述根据所述语义相似度和所述主题相似度确定所述两个待匹配文本句之间的综合相似度,包括:
按照如下公式计算所述两个待匹配文本句之间的综合相似度:
其中,SenSim(A,B)表示待匹配文本句A与待匹配文本句B之间的综合相似度,vecSim(A,B)表示待匹配文本句A与待匹配文本句B之间的语义相似度,SimLDA(A,B)表示待匹配文本句A与待匹配文本句B之间的主题相似度,表示待匹配文本句A与待匹配文本句B之间的语义相似度对应的权重,表示待匹配文本句A与待匹配文本句B之间的主题相似度对应的权重。
7.根据权利要求1所述的方法,其特征在于,在基于word2vec空间向量模型计算两个待匹配文本句之间的语义相似度之前,或者基于文档主题生成模型LDA计算所述两个待匹配文本句之间的主题相似度之前,所述方法还包括:
对所述两个待匹配文本句进行分词处理。
8.一种文本相似度计算装置,其特征在于,所述装置包括:
语义相似度计算模块,用于基于word2vec空间向量模型计算两个待匹配文本句之间的语义相似度;
主题相似度计算模块,用于基于文档主题生成模型LDA计算所述两个待匹配文本句之间的主题相似度;
综合相似度计算模块,用于根据所述语义相似度和所述主题相似度确定所述两个待匹配文本句之间的综合相似度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉斗鱼网络科技有限公司,未经武汉斗鱼网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811066429.5/1.html,转载请声明来源钻瓜专利网。