[发明专利]语义相似度的计算方法及系统有效
申请号: | 201810790941.8 | 申请日: | 2018-07-18 |
公开(公告)号: | CN109145085B | 公开(公告)日: | 2020-11-27 |
发明(设计)人: | 罗长寿;余军;魏清凤;郑亚明;王富荣;于维水;曹承忠;陆阳;郭强;王静宇 | 申请(专利权)人: | 北京市农林科学院 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/36;G06F40/30;G06F40/247 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100097 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语义 相似 计算方法 系统 | ||
1.一种语义相似度的计算方法,其特征在于,包括:
获取第一文本和第二文本;
对所述第一文本和第二文本进行分词处理;
确定用于进行语义相似度判断的语境,根据所述用于进行语义相似度判断的语境收集样本文本并构成样本文本集;
对所述各样本文本进行分词处理,根据所述样本文本集的分词结果建立语境图;
根据所述第一文本的分词结果、第二文本的分词结果以及所述语境图,计算所述第一文本和第二文本的语义相似度;
其中,所述用于进行语义相似度判断的语境具体为:根据所述第一文本的分词结果确定的第一文本的语境、根据所述第二文本的分词结果确定的第二文本的语境,或者由所述第一文本的语境和第二文本的语境结合而成;
所述语境图为表示样本文本集中各分词间组合关系的无向图;
其中,所述根据所述第一文本的分词结果、第二文本的分词结果以及所述语境图,计算所述第一文本和第二文本的语义相似度,具体为:
根据所述语境图计算所述第一文本和第二文本的余弦相似度;
根据所述语境图获得所述第一文本的任意一个分词和第二文本的任意一个分词的相似度,以计算所述第一文本和第二文本的偏移量相似度;
根据所述语境图获得所述第一文本中不存在于所述第二文本的所有分词的语境词集,以及所述第二文本中不存在于所述第一文本的所有分词的语境词集,以计算所述第一文本和第二文本的语义层相似度;
根据所述第一文本和第二文本的余弦相似度、偏移量相似度以及语义层相似度,计算所述第一文本和第二文本的语义相似度。
2.根据权利要求1所述的计算方法,其特征在于,所述根据所述语境图获得所述第一文本的任意一个分词和第二文本的任意一个分词的相似度,以计算所述第一文本和第二文本的偏移量相似度,具体为:
根据所述第一文本p1的分词结果,获得所述第一文本中分词总数m、第一文本的长度len(P1)以及分词Si在第一文本中的相对位置pos(Si);
根据所述第二文本p2的分词结果,获得所述第二文本中分词总数n、第二文本的长度len(P2)以及分词Wj在第二文本中的相对位置pos(Wj);
根据所述语境图计算分词Si和分词Wj的相似度sim(Si,Wj);
根据公式计算第一文本p1和第二文本p2的偏移量相似度Simp(p1,p2)。
3.根据权利要求2所述的计算方法,其特征在于,所述根据所述语境图计算分词Si和分词Wj的相似度sim(Si,Wj),具体为:
在所述语境图上获取分词Si的邻接点π(Si)和度len(π(Si));
在所述语境图上获取分词Wj的邻接点π(Wj)和度len(π(Wj));
根据公式计算相似度sim(Si,Wj);
其中,T(π(Si)∩π(Wj))表示分词Si和分词Wj共有的邻接点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市农林科学院,未经北京市农林科学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810790941.8/1.html,转载请声明来源钻瓜专利网。