[发明专利]标准词库分词方法、装置、设备及计算机可读存储介质

说明书

本发明提供一种标准词库分词方法、装置、设备及计算机可读存储介质，将待分词标准词库中的标准词打散为单个汉字，形成原始汉字库，并计算原始汉字库中每两个汉字之间的第一相邻概率和第一贝叶斯概率；依据第一相邻概率和第一贝叶斯概率，对原始汉字库执行汉字合并操作，得到待调整汉字库；判断待调整汉字库中每两个汉字之间的第二相邻概率内的最小相邻概率是否大于预设阈值；若是，则依据第二相邻概率和所述第二贝叶斯概率，对待调整汉字库执行汉字合并操作，直至得到的目标汉字库中每两个汉字之间的相邻概率内的最小相邻概率小于或等于预设阈值；否则将合并汉字组作为标准词输出。本发明提高标准词库的分词准确率和标准词库的通用性。

技术领域

本发明涉及自然语言处理的技术领域，尤其涉及一种标准词库分词方法、装置、设备及计算机可读存储介质。

背景技术

NLP(Natural Language Processing，自然语言处理)是人工智能的一个子领域，目前NLP主要通过已有的分词库进行计算，分词库可以通过字典或人工辅助标注方式进行。

通过字典或人工辅助标注方式对标准词库进行分词时，由于字典或人工辅助标注有限，无法准确的对标准词库进行分词，使得标准词库不满足NLP在特定领域，如医学领域中的应用，需要对已有的标准词库进行重新分词。

因此，如何提高标准词库的分词准确率和标准词库的通用性是目前亟待解决的问题。

发明内容

本发明的主要目的在于提供一种标准词库分词方法、装置、设备及计算机可读存储介质，旨在提高标准词库的分词准确率和标准词库的通用性。

为实现上述目的，本发明提供一种标准词库分词方法，所述标准词库分词方法包括以下步骤：

将待分词标准词库中的标准词打散为单个汉字，形成原始汉字库，并计算所述原始汉字库中每两个汉字之间的第一相邻概率和第一贝叶斯概率；

依据所述第一相邻概率和所述第一贝叶斯概率，对所述原始汉字库执行汉字合并操作，得到包含第一合并汉字组的待调整汉字库；

计算所述待调整汉字库中每两个汉字之间的第二相邻概率和第二贝叶斯概率，并判断所述第二相邻概率内的最小相邻概率是否大于预设阈值；

若所述最小相邻概率大于预设阈值，则依据所述第二相邻概率和所述第二贝叶斯概率，对所述待调整汉字库执行汉字合并操作，得到包含第二合并汉字组的目标汉字库，并将所述第二合并汉字组作为标准词输出至预设存储区域，其中，所述目标汉字库中每两个汉字之间的相邻概率内的最小相邻概率小于或等于预设阈值；

若所述最小相邻概率小于或等于预设阈值，则将所述第一合并汉字组作为标准词输出至预设存储区域。

可选地，依据所述第一相邻概率和所述第一贝叶斯概率，对所述原始汉字库执行汉字合并操作的步骤包括：

从所述原始汉字库中查找所述第一相邻概率最大的两个汉字作为两个待合并汉字，并合并所述两个待合并汉字，得到合并汉字组；

依据所述两个待合并汉字的第一贝叶斯概率，调整所述合并汉字组中的两待合并汉字的位置关系。

可选地，依据所述两个待合并汉字的第一贝叶斯概率，调整所述合并汉字组中的两待合并汉字的位置关系的步骤包括：

获取所述两个待合并汉字中的第一待合并汉字位于第二待合并汉字之前的第一贝叶斯概率，并判断所述第一贝叶斯概率是否大于预设贝叶斯概率；

若所述第一贝叶斯概率大于或等于预设贝叶斯概率，则将第一待合并汉字与第二待合并汉字的位置关系调整为第一待合并汉字位于第二待合并汉字之前；

若所述第一贝叶斯概率小于预设贝叶斯概率，则将第一待合并汉字与第二待合并汉字的位置关系调整为第一待合并汉字位于第二待合并汉字之后。