[发明专利]一种基于复杂网络文本语意图编码方式的专利查重方法及系统在审
申请号: | 201910707604.2 | 申请日: | 2019-08-01 |
公开(公告)号: | CN110609932A | 公开(公告)日: | 2019-12-24 |
发明(设计)人: | 周明星;陈运文;江永青;桂洪冠;边一雄;纪达麒 | 申请(专利权)人: | 达而观信息科技(上海)有限公司 |
主分类号: | G06F16/9032 | 分类号: | G06F16/9032;G06F16/951;G06F17/22 |
代理公司: | 31105 上海智力专利商标事务所(普通合伙) | 代理人: | 周涛 |
地址: | 201203 上海市浦东新区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 长文本 词向量 编码方式 复杂网络 文本 有向图 多维 预处理 物理意义 相似程度 向量模型 输入词 数据集 相似度 表意 构建 权重 文档 语料 成语 判定 测试 互联网 清晰 | ||
1.一种基于复杂网络文本语意图编码方式的专利查重方法,其特征在于,实现过程包括以下步骤:
S1,对从互联网获取的公开数据集进行预处理,得到语料数据;
S2,将语料数据作为输入,进行Word2Vector模型训练和测试,生成词向量模型;
S3,将待查重长文本数据和公开长文本数据分别输入词向量模型中,得到待查重长文本词向量和公开长文本词向量;
S4,根据待查重长文本词向量构建待查重长文本多维复杂有向图,根据公开长文本词向量构建公开长文本多维复杂有向图;
S5,通过待查重长文本多维复杂有向图获取待查重长文本的张量,通过公开长文本多维复杂有向图获取公开长文本的张量;
S6,通过待查重长文本的张量与公开长文本的张量计算待查重长文本与公开长文本之间的相似度。
2.根据权利要求1所述的基于复杂网络文本语意图编码方式的专利查重方法,其特征在于,所述步骤S1中对从互联网获取的公开数据集进行预处理,得到语料数据的具体步骤为:
S11,通过爬虫系统从互联网中获取网络数据;
S12,获取各垂直领域的专业数据;
S13,对网络数据和专业数据进行信息抽取,剔除乱码字符,得到语料数据。
3.根据权利要求2所述的基于复杂网络文本语意图编码方式的专利查重方法,其特征在于,所述网络数据包括新闻、百科、论文期刊。
4.根据权利要求1所述的基于复杂网络文本语意图编码方式的专利查重方法,其特征在于,步骤S4中待查重长文本多维复杂有向图的构建步骤与公开长文本多维复杂有向图的构建步骤相同;
根据词向量构建多维复杂有向图的具体步骤为:
S41,对词向量进行归一化处理,得到词向量数组;
S42,根据词向量数组获取其在各个维度的有向语意图;
S43,将所有维度的有向语意图构建成多维复杂有向图。
5.根据权利要求4所述的基于复杂网络文本语意图编码方式的专利查重方法,其特征在于,经过归一化处理的公开词向量和目标词向量在其各个维度的值都分布在区间(0~M]内,M为设定的自然数。
6.根据权利要求4所述的基于复杂网络文本语意图的专利查重方法,其特征在于,所述词向量数组V=(v1,v2,v3,...,vN),其中,N为待查重长文本或公开长文本切词后的词数量,对于不同的长文本,分词后词数量并不一定相同,k为待查重长文本词向量或公开长文本词向量的向量维度;
待查重长文本词向量或公开长文本词向量在第j维度的有向语意图表示有向语意图的边,是文档切词后第i个与第i+1个词在转化为词向量后的空间第j个分量值在该维空间的一条边,边权值默认为1,重复情况下,累加权值,i=1,2,3,...,N-1;
多维复杂有向图G=(g1,g2,g3,...gk)。
7.根据权利要求1所述的基于复杂网络文本语意图的专利查重方法,其特征在于,所述待查重长文本与公开长文本之间的相似度通过待查重长文本的张量与公开长文本的张量之间的张量距离来衡量。
8.一种基于复杂网络文本语意图编码方式的专利查重系统,其特征在于,包括预处理模块、词向量编码模块、复杂语意网络图构建模块和相似度匹配模块,
所述预处理模块,用于将互联网中的公开数据集预处理成语料数据;
所述词向量编码模块,用于将待查重长文本和公开长文本分别处理成待查重长文本词向量和公开长文本词向量;
所述复杂语意网络图构建模块,用于将待查重长文本词向量构建成待查重长文本多维复杂有向图,将公开长文本词向量构建成公开长文本多维复杂有向图;
所述相似度匹配模块,用于根据待查重长文本多维复杂有向图和公开长文本多维复杂有向图计算出待查重长文本与公开长文本之间的相似度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于达而观信息科技(上海)有限公司,未经达而观信息科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910707604.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:姓名比对方法及装置
- 下一篇:图像处理方法及装置、电子设备和存储介质