[发明专利]文章相似度检测方法及装置有效
申请号: | 201710736855.4 | 申请日: | 2017-08-24 |
公开(公告)号: | CN107633020B | 公开(公告)日: | 2020-05-05 |
发明(设计)人: | 田亮;孙凡;武琼 | 申请(专利权)人: | 新译信息科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/289;G06F40/216 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 张子青;刘芳 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文章 相似 检测 方法 装置 | ||
1.一种文章相似度检测方法,其特征在于,包括:
从第一文章中提取目标关键词,所述目标关键词包括所述第一文章提供的关键词和所述第一文章中评价分值高于第一预设阈值的词;
根据所述目标关键词,查找第二文章,所述第二文章和所述第一文章之间相同目标关键词的数量大于第二预设阈值;
基于预设滑动窗口,检测所述第一文章中各段的内容与所述第二文章之间的第一相似度,以及第二文章中各段的内容与所述第一文章之间的第二相似度;
根据所述第一相似度和所述第二相似度,计算所述第一文章和所述第二文章之间的相似度;
所述基于预设滑动窗口,检测所述第一文章中各段的内容与所述第二文章之间的第一相似度,以及第二文章中各段的内容与所述第一文章之间的第二相似度,包括:
基于预设滑动窗口,计算所述第一文章各段内容和所述第二文章中各段内容之间的相似度,确定所述第一文章中各段内容在预设滑动窗口内对应的最大相似度为所述第一文章各段内容与所述第二文章之间的第一相似度,其中,所述第一相似度值大于预设的相似度的值,并基于预设滑动窗口,计算所述第二文章各段内容和所述第一文章中各段内容之间的相似度,确定所述第二文章中各段内容在预设滑动窗口内对应的最大相似度为所述第二文章中各段内容与所述第一文章之间的第二相似度,其中,所述第二相似度值大于预设的相似度的值;
所述根据所述第一相似度和所述第二相似度,计算所述第一文章和所述第二文章之间的相似度,包括:
根据表达式:
计算所述第一文章和所述第二文章之间的相似度sim(A,B),其中,ai为所述第一文章中第i段与所述第二文章的相似度,bi为所述第二文章中第i段与所述第一文章的相似度,xi为所述第一文章中第i段的权重,yi为所述第二文章中第i段的权重,n为所述第一文章中的段数,m为所述第二文章中的段数。
2.根据权利要求1所述的方法,其特征在于,所述从第一文章中提取目标关键词,包括:
基于所述第一文章提供的关键词,采用bootstrapping算法提取所述第一文章中评价分值高于第一预设阈值的词作为目标关键词。
3.根据权利要求1所述的方法,其特征在于,所述根据所述目标关键词,查找第二文章,包括:
根据表达式:
S(A,B)=|F(A)∩F(B)|
查找与所述第一文章之间具有相同目标关键词的数量大于第二预设阈值的第二文章;
其中,F(A)为所述第一文章的目标关键词的集合,F(B)为所述第二文章的目标关键词的集合,S(A,B)为所述第二文章和所述第一文章之间具有的相同的目标关键词的集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新译信息科技(深圳)有限公司,未经新译信息科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710736855.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种页面事件采集方法和装置
- 下一篇:人员画像分析方法、装置及存储介质