[发明专利]文章转载关系的识别方法、装置、设备及可读存储介质有效
申请号: | 201910310558.2 | 申请日: | 2019-04-17 |
公开(公告)号: | CN110083832B | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 于琳琳;张丹;于晓明 | 申请(专利权)人: | 北大方正集团有限公司;北京北大方正电子有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 朱颖;刘芳 |
地址: | 100871 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文章 转载 关系 识别 方法 装置 设备 可读 存储 介质 | ||
1.一种文章转载关系的识别方法,其特征在于,包括:
获取多个待识别文章的文章信息;
根据各个待识别文章的文章信息和预先建立的神经网络模型,确定各个待识别文章所属的类型;
根据预设识别策略、各个待识别文章的文章信息和所属类型,将属于同一类型且符合所述预设识别策略的每两个待识别文章之间确定为存在转载关系;预设识别策略为预先设置的用于识别同一类型的文章之间是否存在转载关系的策略;
针对属于同一类型且不符合所述预设识别策略的每两个待识别文章,根据该两个待识别文章的文章信息计算该两个待识别文章的正文句子间的编辑距离,并根据该两个待识别文章的正文句子间的编辑距离,确定该两个待识别文章是否存在转载关系;
其中,所述文章信息包括标题和正文字数;所述根据预设识别策略、各个待识别文章的文章信息和所属类型,将属于同一类型且符合预设识别策略的每两个待识别文章之间确定为存在转载关系,包括:
针对属于同一类型的每两个待识别文章,识别该两个待识别文章的标题是否相同,并计算该两个待识别文章的正文字数之间的差值,将所述差值与预设差值阈值进行对比;
针对属于同一类型的每两个待识别文章,若该两个待识别文章的文章标题相同,且所述差值小于所述预设差值阈值,则确定该两个待识别文章存在转载关系。
2.根据权利要求1所述的方法,其特征在于,所述获取多个待识别文章的文章信息包括:
获取包含各个待识别文章的超文本标记语言HTML数据,并从各个HTML数据中提取各个待识别文章的原始信息;
删除各个待识别文章的原始信息中的非文本信息,得到各个待识别文章的文章信息。
3.根据权利要求1所述的方法,其特征在于,所述文章信息包括多个词汇;所述根据各个待识别文章的文章信息和预先建立的神经网络模型,确定各个待识别文章所属的类型,包括:
通过向量化表示模型获取各个待识别文章中各个词汇对应的向量;
针对每个待识别文章,将该待识别文章中各个词汇对应的向量输入到预先建立的双向长短期记忆网络,得到该待识别文章中各个词汇对应的浅层语义向量;
针对每个待识别文章,将该待识别文章中各个词汇对应的浅层语义向量输入到预先建立的卷积神经网络中,得到该待识别文章所属的类型。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述根据该两个待识别文章的文章信息计算该两个待识别文章的正文句子间的编辑距离,并根据该两个待识别文章的正文句子间的编辑距离,确定该两个待识别文章是否存在转载关系,包括:
按照标点符号对该两个待识别文章的正文进行分句处理,得到该两个待识别文章的各个正文句子;
针对该两个待识别文章中一个待识别文章的每个正文句子,计算该正文句子与该两个待识别文章中另一个待识别文章的各个正文句子之间的编辑距离;
根据计算结果,确定该两个待识别文章之间的相似句子数量;
计算该两个待识别文章之间的相似句子数量占该两个待识别文章的句子总数中的比例,并将所述比例与预设比例阈值进行对比;
若所述比例大于所述预设比例阈值,则确定该两个待识别文章之间存在转载关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北大方正集团有限公司;北京北大方正电子有限公司,未经北大方正集团有限公司;北京北大方正电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910310558.2/1.html,转载请声明来源钻瓜专利网。