[发明专利]文本相似度计算方法及装置在审
申请号: | 201711194408.7 | 申请日: | 2017-11-24 |
公开(公告)号: | CN107977676A | 公开(公告)日: | 2018-05-01 |
发明(设计)人: | 蒋宏飞;王萌萌;晋耀红;杨凯程 | 申请(专利权)人: | 北京神州泰岳软件股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06F17/27;G06F17/30 |
代理公司: | 北京弘权知识产权代理事务所(普通合伙)11363 | 代理人: | 逯长明,许伟群 |
地址: | 100089 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 相似 计算方法 装置 | ||
1.一种文本相似度计算方法,其特征在于,所述方法包括如下步骤:
利用第一词向量训练模型,对第一文本及第二文本中的所有词汇处理得到所有词汇的词向量,其中所述词向量中包含对应词汇的上下文关系;
根据词汇对应的词向量,计算所述第一文本中各词汇与所述第二文本中各词汇的余弦相似度,根据所述第一文本中各词汇对应的最大余弦相似度,计算该词汇与所述第二文本的相似度;根据所述第一文本中各词汇与所述第二文本的相似度,计算得到所述第一文本与所述第二文本的相似度。
2.根据权利要求1所述的方法,其特征在于,所述第一文本中一词汇与所述第二文本的相似度利用如下公式计算:
其中,
上面公式中,qi表示所述第一文本中的一个词汇,d表示所述第二文本,R(qi,d)表示所述第一文本中的词汇qi与第二文本d的相似度;si表示所述词汇qi对应的最大余弦相似度;k1、k2、b表示调节因子,dl表示所述第一文本的长度,avgdl表示所述第一文本的平均长度;qf表示所述词汇qi在所述第一文本中出现的次数。
3.根据权利要求1或2所述的方法,其特征在于,所述第一文本为当前提出的业务问题,第二文本为问答系统的问答库中存储的标准问题。
4.根据权利要求1所述的方法,其特征在于,所述第一词向量训练模型利用如下步骤得到:
获取若干个第三文本以及若干个第四文本;其中,所述第三文本是与所述第一文本或第二文本业务相关的文本,第四文本为所述第一文本出现的特定的应用场景下,实际产生的文本;
计算每个所述第三文本与每个所述第四文本的相似度;确定每个所述第三文本对应的最大相似度,并选取所述最大相似度超过预定阀值的所述第三文本;
利用选取得到的所述第三文件训练得到所述第一词向量训练模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京神州泰岳软件股份有限公司,未经北京神州泰岳软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711194408.7/1.html,转载请声明来源钻瓜专利网。