[发明专利]商业快讯的去重筛选方法及装置在审
| 申请号： | 201810675645.3 | 申请日： | 2018-06-26 |
| 公开（公告）号： | CN108846117A | 公开（公告）日： | 2018-11-20 |
| 发明（设计）人： | 朱迪;柳超 | 申请（专利权）人： | 北京金堤科技有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人： | 梁香美 |
| 地址： | 100000 北京市海淀区知春*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种商业快讯的去重筛选方法及装置，该方法包括：获取待检测商业快讯文本；采用simhash算法对待检测商业快讯文本进行计算，得到待检测商业快讯文本的simhash指纹；根据待检测商业快讯文本中的公司名称，在商业快讯去重数据库中提取预设时间内包含公司名称的目标商业快讯文本的simhash指纹集合；计算待检测商业快讯文本的simhash指纹与simhash指纹集合中每个simhash指纹之间的海明距离；如果海明距离中每个海明距离都大于预设值，则确定待检测商业快讯文本为非重复商业快讯文本，并将待检测商业快讯文本的信息插入商业快讯去重数据库。该去重筛选方法大大减小了去重筛选的计算量，提高了去重筛选的效率，缓解了现有的去重筛选方法计算量大，效率低下的技术问题。 | ||
| 搜索关键词： | 去重 文本 检测 筛选 海明距离 指纹 指纹集合 计算量 预设 数据库 非重复 减小 算法 缓解 | ||
【主权项】：
1.一种商业快讯的去重筛选方法，其特征在于，所述方法包括：获取待检测商业快讯文本，其中，所述待检测商业快讯文本中包含公司名称；采用simhash算法对所述待检测商业快讯文本进行计算，得到所述待检测商业快讯文本的simhash指纹；根据所述待检测商业快讯文本中的公司名称，在商业快讯去重数据库中提取预设时间内包含所述公司名称的目标商业快讯文本的simhash指纹集合；计算所述待检测商业快讯文本的simhash指纹与所述simhash指纹集合中每个simhash指纹之间的海明距离；如果所述海明距离中每个海明距离都大于预设值，则确定所述待检测商业快讯文本为非重复商业快讯文本，并将所述待检测商业快讯文本的信息插入所述商业快讯去重数据库。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京金堤科技有限公司，未经北京金堤科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810675645.3/，转载请声明来源钻瓜专利网。
