[发明专利]一种字符串分词方法、装置、终端设备及存储介质在审
申请号: | 201810030722.X | 申请日: | 2018-01-12 |
公开(公告)号: | CN108363686A | 公开(公告)日: | 2018-08-03 |
发明(设计)人: | 刘行行 | 申请(专利权)人: | 中国平安人寿保险股份有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 阳开亮 |
地址: | 518000 广东省深圳市福田*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种字符串分词方法、装置、终端设备及存储介质,所述方法包括:获取待处理的汉字字符串;对汉字字符串进行单个字切分,得到n个单个字ai,将ai与相邻单个字ai+1进行组合,得到临时词aiai+1;若临时词aiai+1在预设的常用词词库中存在,则将临时词aiai+1与相邻单个字ai+2进行组合,得到临时词aiai+1ai+2,并使用临时词aiai+1ai+2继续在所述常用词词库中进行查找,直到临时词aiai+1ai+2...ak在常用词词库中不存在为止;将aiai+1ai+2...ak‑1识别为有效词,并从单个字ak开始,继续与相邻单个字组合查找。本发明的技术方案无需设置初始词长,避免了常用词被错误分开,提高字符串分词的准确性,并且,实现方式更加简便易行,执行效率更高,从而有效提高字符串分词的通用性和分词效率。 | ||
搜索关键词: | 临时词 分词 字符串 词库 汉字字符串 存储介质 终端设备 查找 有效词 预设 | ||
【主权项】:
1.一种字符串分词方法,其特征在于,所述字符串分词方法包括:获取待处理的汉字字符串;对所述汉字字符串进行单个字切分,得到n个单个字ai,其中,i∈[1,n],n为所述汉字字符串中包含的汉字字符的个数;若i小于n,则将ai与相邻单个字ai+1进行组合,得到临时词aiai+1;若所述临时词aiai+1在预设的常用词词库中存在,则将所述临时词aiai+1与相邻单个字ai+2进行组合,得到临时词aiai+1ai+2,并使用所述临时词aiai+1ai+2继续在所述常用词词库中进行查找,直到临时词aiai+1ai+2...ak在所述常用词词库中不存在为止,其中,k∈[i+1,n];若所述临时词aiai+1ai+2...ak在所述常用词词库中不存在,则将aiai+1ai+2...ak‑1识别为有效词,并从单个字ak开始,若k等于n,则将ak识别为有效词,若k小于n,则将ak作为ai,继续执行所述若i小于n,则将ai与相邻单个字ai+1进行组合,得到临时词aiai+1的步骤;若所述临时词aiai+1ai+2...ak在所述常用词词库中存在并且k=n,则将aiai+1ai+2...ak识别为有效词;将识别出的有效词确定为所述汉字字符串的分词结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安人寿保险股份有限公司,未经中国平安人寿保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810030722.X/,转载请声明来源钻瓜专利网。