[发明专利]标准词库分词方法、装置、设备及计算机可读存储介质有效
| 申请号： | 201811452898.0 | 申请日： | 2018-11-30 |
| 公开（公告）号： | CN109858011B | 公开（公告）日： | 2022-08-19 |
| 发明（设计）人： | 黄越;陈明东 | 申请（专利权）人： | 平安科技（深圳）有限公司 |
| 主分类号： | G06F40/289 | 分类号： | G06F40/289 |
| 代理公司： | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人： | 胡海国 |
| 地址： | 518000 广东省深圳市福田区福*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种标准词库分词方法、装置、设备及计算机可读存储介质，将待分词标准词库中的标准词打散为单个汉字，形成原始汉字库，并计算原始汉字库中每两个汉字之间的第一相邻概率和第一贝叶斯概率；依据第一相邻概率和第一贝叶斯概率，对原始汉字库执行汉字合并操作，得到待调整汉字库；判断待调整汉字库中每两个汉字之间的第二相邻概率内的最小相邻概率是否大于预设阈值；若是，则依据第二相邻概率和所述第二贝叶斯概率，对待调整汉字库执行汉字合并操作，直至得到的目标汉字库中每两个汉字之间的相邻概率内的最小相邻概率小于或等于预设阈值；否则将合并汉字组作为标准词输出。本发明提高标准词库的分词准确率和标准词库的通用性。 | ||
| 搜索关键词： | 标准 词库 分词 方法 装置 设备 计算机 可读 存储 介质 | ||
【主权项】：
1.一种标准词库分词方法，其特征在于，所述标准词库分词方法包括以下步骤：将待分词标准词库中的标准词打散为单个汉字，形成原始汉字库，并计算所述原始汉字库中每两个汉字之间的第一相邻概率和第一贝叶斯概率；依据所述第一相邻概率和所述第一贝叶斯概率，对所述原始汉字库执行汉字合并操作，得到包含第一合并汉字组的待调整汉字库；计算所述待调整汉字库中每两个汉字之间的第二相邻概率和第二贝叶斯概率，并判断所述第二相邻概率内的最小相邻概率是否大于预设阈值；若所述最小相邻概率大于预设阈值，则依据所述第二相邻概率和所述第二贝叶斯概率，对所述待调整汉字库执行汉字合并操作，得到包含第二合并汉字组的目标汉字库，并将所述第二合并汉字组作为标准词输出至预设存储区域，其中，所述目标汉字库中每两个汉字之间的相邻概率内的最小相邻概率小于或等于预设阈值；若所述最小相邻概率小于或等于预设阈值，则将所述第一合并汉字组作为标准词输出至预设存储区域。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于平安科技（深圳）有限公司，未经平安科技（深圳）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201811452898.0/，转载请声明来源钻瓜专利网。
