[发明专利]用于检测原创文本的方法、装置、电子设备及存储介质有效
申请号: | 202011378235.6 | 申请日: | 2020-11-30 |
公开(公告)号: | CN112507684B | 公开(公告)日: | 2023-09-22 |
发明(设计)人: | 郑烨翰;罗雨 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/194 | 分类号: | G06F40/194;G06F40/216;G06F40/30;G06F16/36 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 检测 原创 文本 方法 装置 电子设备 存储 介质 | ||
1.一种用于检测原创文本的方法,包括:
将获取到的待检测文本拆分为至少一个段落,并将每个所述段落拆分为至少一个语句;分别从每个所述段落和每个所述语句中提取核心短语,并将所述核心短语作为对应的段落或语句的主题;
从所述待检测文本中提取出主谓宾三元组;
在相同的向量描述空间内,计算所述待检测文本与公开文本各自的向量化主谓宾三元组的向量相似度;其中,所述向量化主谓宾三元组指将文本形式的主谓宾三元组的向量形式转换结果;确定所述待检测文本与所述公开文本之间具有的相似主题个数和相似主题相同分布数,所述相似主题相同分布数指在文本的相同位置分布有相似主题的数量;基于所述相似主题个数、所述相似主题相同分布数和所述向量相似度,确定所述待检测文本与所述公开文本各自的主题和主谓宾三元组之间的相似程度;基于所述相似程度确定所述待检测文本是否为原创文本。
2.根据权利要求1所述的方法,其中,所述从所述待检测文本中提取出主谓宾三元组,包括:
利用知识图谱的实体识别技术识别出所述待检测文本中的实体文本;
利用知识图谱的关系抽取技术抽取出与所述实体存在主谓宾关系的关联文本;
根据所述实体文本与对应的关联文本,生成所述主谓宾三元组。
3.根据权利要求1或2所述的方法,其中,所述基于所述相似程度确定所述待检测文本是否为原创文本,包括:
获取所述待检测文本与所述公开文本的文本相似度;
基于所述相似程度、所述文本相似度,确定所述待检测文本是否为原创文本。
4.根据权利要求3所述的方法,其中,所述基于所述相似程度、所述文本相似度,确定所述待检测文本是否为原创文本,包括:
分别获取预先为所述相似程度、所述文本相似度分配的第一权值、第二权值;其中,所述第一权值大于所述第二权值;
根据使用所述第一权值加权后的相似程度、使用所述第二权值加权后的文本相似度,计算得到综合相似程度;
响应于所述综合相似程度超过预设阈值,确定所述待检测文本为非原创文本;
响应于所述综合相似程度不超过所述预设阈值,确定所述待检测文本为原创文本。
5.一种用于检测原创文本的装置,包括:
主题提取单元,被配置成将获取到的待检测文本拆分为至少一个段落,并将每个所述段落拆分为至少一个语句;分别从每个所述段落和每个所述语句中提取核心短语,并将所述核心短语作为对应的段落或语句的主题;
主谓宾三元组提取单元,被配置成从所述待检测文本中提取出主谓宾三元组;
原创文本确定单元,被配置成在相同的向量描述空间内,计算所述待检测文本与公开文本各自的向量化主谓宾三元组的向量相似度;其中,所述向量化主谓宾三元组指将文本形式的主谓宾三元组的向量形式转换结果;确定所述待检测文本与所述公开文本之间具有的相似主题个数和相似主题相同分布数,所述相似主题相同分布数指在文本的相同位置分布有相似主题的数量;基于所述相似主题个数、所述相似主题相同分布数和所述向量相似度,确定所述待检测文本与所述公开文本各自的主题和主谓宾三元组之间的相似程度,并基于所述相似程度确定所述待检测文本是否为原创文本。
6.根据权利要求5所述的装置,其中,所述主谓宾三元组提取单元被进一步配置成:
利用知识图谱的实体识别技术识别出所述待检测文本中的实体文本;
利用知识图谱的关系抽取技术抽取出与所述实体存在主谓宾关系的关联文本;
根据所述实体文本与对应的关联文本,生成所述主谓宾三元组。
7.根据权利要求5或6所述的装置,其中,所述原创文本确定单元包括被配置成基于所述相似程度确定所述待检测文本是否为原创文本的原创文本确定子单元,所述原创文本确定子单元包括:
文本相似度获取模块,被配置成获取所述待检测文本与所述公开文本的文本相似度;
综合确定模块,被配置成基于所述相似程度、所述文本相似度,确定所述待检测文本是否为原创文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011378235.6/1.html,转载请声明来源钻瓜专利网。