[发明专利]一种检索相似文章的方法及装置有效
申请号: | 201810912017.2 | 申请日: | 2018-08-10 |
公开(公告)号: | CN109189824B | 公开(公告)日: | 2022-04-26 |
发明(设计)人: | 梁忠平;谢巍;赵剑波;杨棋;张宏毅;黄进;龚健;雷宁;孙坤建 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458 |
代理公司: | 北京众达德权知识产权代理有限公司 11570 | 代理人: | 刘杰 |
地址: | 开曼群岛大开曼岛*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 检索 相似 文章 方法 装置 | ||
1.一种检索相似文章的方法,其特征在于,包括:
获取目标文章;
计算所述目标文章的simhash散列值;
获取双亲森林数据模型;所述双亲森林数据模型由多棵树组成,其中,每一个叶子节点代表一篇文章的simhash散列值,每一个根节点代表整棵树的simhash散列值,任意两个根节点之间的simhash散列值的海明距离大于预设值,同一颗树上的任意两个节点的simhash散列值的海明距离小于等于所述预设值;
基于所述目标文章的simhash散列值,在所述双亲森林数据模型中检索与所述目标文章相似的文章,包括:获取simhash散列值表,所述simhash散列值表中存储有所述双亲森林数据模型中所有节点的simhash散列值;判断所述simhash散列值表中是否存在与所述目标文章的simhash散列值的海明距离小于等于所述预设值的simhash散列值;若存在,则在所述simhash散列值表中找出所有与所述目标文章的simhash散列值的海明距离小于等于所述预设值的simhash散列值,构成集合S;基于所述集合S,在所述双亲森林数据模型中确定一棵目标树,并返回所述目标树的根节点的simhash散列值,所述目标树中的所有节点对应的文章即为所述目标文章的相似文章。
2.如权利要求1所述的检索相似文章的方法,其特征在于,所述计算所述目标文章的simhash散列值,包括:
从所述目标文章中提取最长的句子,所述最长的句子用于代表所述目标文章;
计算所述最长的句子的simhash散列值,所述最长的句子的simhash散列值用于代表所述目标文章的simhash散列值。
3.如权利要求1所述的检索相似文章的方法,其特征在于,所述基于所述集合S,在所述双亲森林数据模型中确定一棵目标树,包括:
在所述双亲森林数据模型中查找所述集合S中的每个元素,并获得所述每个元素对应的根节点;
若仅获得一个根节点,则将该根节点对应的树确定为所述目标树;
若获得多个根节点,则将所述多个根节点对应的多棵树作为候选目标树,并基于冲突解决规则,从所述候选目标树中选择一棵候选目标树作为所述目标树。
4.如权利要求3所述的检索相似文章的方法,其特征在于,所述基于冲突解决规则,从所述候选目标树中选择一棵候选目标树作为所述目标树,包括:
统计每一棵候选目标树的叶子节点的数量;
从所述候选目标树中找出叶子节点的数量最多的候选目标树;
若所述叶子节点的数量最多的候选目标树仅有一棵,则将所述叶子节点的数量最多的候选目标树作为所述目标树。
5.如权利要求4所述的检索相似文章的方法,其特征在于,所述基于冲突解决规则,从所述候选目标树中选择一棵候选目标树作为所述目标树,还包括:
若所述叶子节点的数量最多的候选目标树有多棵,则统计所述叶子节点的数量最多的候选目标树中每一棵候选目标树的添加时间,所述添加时间为添加到所述双亲森林数据模型的时间;
从所述叶子节点的数量最多的候选目标树中找出添加时间最早的候选目标树;
若所述添加时间最早的候选目标树仅有一棵,则将所述添加时间最早的候选目标树作为所述目标树。
6.如权利要求5所述的检索相似文章的方法,其特征在于,所述基于冲突解决规则,从所述候选目标树中选择一棵候选目标树作为所述目标树,还包括:
若所述添加时间最早的候选目标树有多棵,则统计所述添加时间最早的候选目标树中每一棵候选目标树的根节点的simhash散列值;
从所述添加时间最早的候选目标树中选出根节点的simhash散列值最小的候选目标树作为所述目标树。
7.如权利要求1所述的检索相似文章的方法,其特征在于,还包括:
将所述目标文章的simhash散列值作为一个新的叶子节点添加到所述目标树中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810912017.2/1.html,转载请声明来源钻瓜专利网。