[发明专利]基于trie和LCS算法的文献分类方法和系统有效
申请号: | 201811147380.6 | 申请日: | 2018-09-29 |
公开(公告)号: | CN109543023B | 公开(公告)日: | 2020-09-08 |
发明(设计)人: | 唐先明;王晓丽;陈新荣;邓达康;韩宝东;史晓凌;郭攀红;张德浩;谭培波;张学龙 | 申请(专利权)人: | 中国石油化工股份有限公司石油勘探开发研究院;北京智通云联科技有限公司 |
主分类号: | G06F16/335 | 分类号: | G06F16/335;G06F16/35;G06F16/9032 |
代理公司: | 北京远大卓悦知识产权代理事务所(普通合伙) 11369 | 代理人: | 史霞 |
地址: | 100083*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 trie lcs 算法 文献 分类 方法 系统 | ||
1.于trie和LCS算法的文献分类方法,其特征在于,包括以下步骤:
步骤一、预编初始分类字典和初始排除字典,初始分类字典中编排多个类,每个类中设置至少一个字符串,初始排除字典中设置至少一个不属于初始分类字典中的字符串;
步骤二、将初始分类字典中的每一个字符串扩展得到扩展字符串,根据初始排除字典对得到的扩展字符串过滤后构建字典树,其中,扩展字符串包括将每一个字符串分割形成的字符个数为1到N的子字符串,N为对应的字符串的字符总个数;
步骤三、读取待分类文献,调用字典树查找待分类文献中的每一个句子中出现的所有的字符串,对于一个句子,取其中含有的属于初始分类字典中的最长的字符串作为最长公共子序列,最长公共子序列及其对应的类作为该一个句子的最终字符串及最终类,将一篇文献中出现频率最多的最终类作为其所属的类,完成对待分类文献的分类。
2.如权利要求1所述的文献分类方法,其特征在于,还包括:
步骤四、步骤三中读取待分类文献后,调用字典树查找待分类文献中的每一个句子中出现的所有字符串,并将新出现的不属于初始排除字典且不同于初始分类字典中的字符串及其对应的类加入到初始分类字典中,形成新的分类字典,将新出现的不属于初始分类字典且不同于初始排除字典中的字符串加入到初始排除字典中,形成新的排除字典。
3.如权利要求1所述的文献分类方法,其特征在于,步骤二具体包括以下过程:
S1、根据初始排除字典对每一个字符串以及得到的扩展字符串进行过滤,除去与初始排除字典中相同的字符串,得到每一个字符串的候选字符串,将每一个字符串的候选字符串构造前缀树,前缀树中从根节点到某一节点的路径上经过的字符连接起来的字符串,若属于初始分类字典中,则将从该根节点到该某一节点的路径上经过的所有字符进行标记;
S2、在每一个字符串的候选字符串构造的前缀树中,将具有公共前缀的前缀树融合形成字典树。
4.如权利要求3所述的文献分类方法,其特征在于,在步骤三中,读取待分类文献,调用字典树查找待分类文献中的每一个句子中出现的所有字符串,查找时,对于一个句子,顺序判断该一个句子中的第一个字符至最后一个字符是否属于字典树,且是否被标记,若第一个字符至最后一个字符均属于字典树,且均被标记,则输出从第一个字符至最后一个字符的形成的所有的字符串,若其中某一个字符不属于字典树、或该某一个字符属于字典树但未被标记,则不输出从第一个字符至该某一个字符的字符串,从输出的所有的字符串中取最长的字符串作为最长公共子序列。
5.如权利要求1所述的文献分类方法,其特征在于,步骤三中待分类文献包括待分类文献的标题或正文或标题与正文的组合。
6.如权利要求1-5任一项所述的文献分类方法,其特征在于,字符串包括全部由中文字组成的形式、或全部由英文字母组成的形式、或中文字和英文字母组合的形式,且字符串由多个字符组成,一个字符为一个中文字或一个英文字母。
7.基于trie和LCS算法的文献分类系统,其特征在于,包括:
初始分类字典模块,其用于预先编排多个类,每个类中设置至少一个字符串;
初始排除字典模块,其用于预先设置至少一个不属于初始分类字典中的字符串;
字典树模块,其用于将初始分类字典模块中的每一个字符串扩展得到扩展字符串,根据初始排除字典模块对得到的扩展字符串过滤后构建字典树,其中,扩展字符串包括将每一个字符串分割形成的字符个数为1到N的子字符串,N为对应的字符串的字符总个数;
文件处理模块,其用于读取待分类文献,调用字典树查找待分类文献中的每一个句子中出现的所有字符串,对于一个句子,取其中含有的属于初始分类字典中的最长的字符串作为最长公共子序列,最长公共子序列及其对应的类作为该一个句子的最终字符串及最终类,将一篇文献中出现频率最多的最终类作为其所属的类,完成对待分类文献的分类;
输出文件模块,其用于输出待分类文献和其所属的类。
8.如权利要求7所述的基于trie和LCS算法的文献分类系统,其特征在于,所述文件处理模块含有生语料模块,生语料模块用于将待分类的文献按照语料格式读入,语料格式包括待分类文献的ID、标题、正文。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国石油化工股份有限公司石油勘探开发研究院;北京智通云联科技有限公司,未经中国石油化工股份有限公司石油勘探开发研究院;北京智通云联科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811147380.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:文本纠错方法和装置
- 下一篇:一种文本处理方法及装置