[发明专利]基于分词的文本处理方法、装置、设备及存储介质在审
申请号: | 201910433622.6 | 申请日: | 2019-05-23 |
公开(公告)号: | CN110309504A | 公开(公告)日: | 2019-10-08 |
发明(设计)人: | 郑立颖;徐亮;阮晓雯 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F16/35;G06N3/04 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 黄章辉 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于分词的文本处理方法、装置、设备及存储介质,其中,该基于分词的文本处理方法包括:获取原始文本,采用分词工具的搜索引擎分词模式对原始文本进行文本分词,获取文本分词结果,文本分词结果包括至少n个一级分词;若任意连续k个一级分词中连续k‑1个一级分词的叠加等于第k个一级分词,且连续k‑1个一级分词中存在至少两个二级分词的结合等于第k个一级分词,则仅保留至少两个二级分词,获取分词优化结果。该方法可删除重复语义或无实际意义的分词,提高分词工具的分词准确性,简化分词结果,利于后续基于正确的分词结果继续对原始文本进行语义分析。 | ||
搜索关键词: | 分词 文本处理 文本分词 原始文本 存储介质 二级分词 分词结果 搜索引擎 优化结果 语义分析 语义 叠加 删除 重复 保留 | ||
【主权项】:
1.一种基于分词的文本处理方法,其特征在于,包括:获取原始文本,采用分词工具的搜索引擎分词模式对所述原始文本进行文本分词,获取文本分词结果,所述文本分词结果包括至少n个一级分词;若任意连续k个所述一级分词中连续k‑1个所述一级分词的叠加等于所述第k个一级分词,且连续k‑1个所述一级分词中存在至少两个二级分词的结合等于第k个一级分词,则仅保留至少两个所述二级分词,获取分词优化结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910433622.6/,转载请声明来源钻瓜专利网。