[发明专利]分词识别词库构建方法、中文分词方法和装置有效
申请号: | 201911288705.7 | 申请日: | 2019-12-12 |
公开(公告)号: | CN111178065B | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | 李胤文 | 申请(专利权)人: | 建信金融科技有限责任公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F40/289;G06F40/216;G06N3/048 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张效荣;冯培培 |
地址: | 200120 上海市浦东新区中国(*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分词 识别 词库 构建 方法 中文 装置 | ||
1.一种分词识别词库构建方法,其特征在于,包括:
针对训练文本集中的短句,执行:
为所述短句去重,并为去重后的短句中的每一个字构建对应的神经元,其中,所述神经元指示的信号类型与所述神经元对应的字相匹配;
根据所述短句中每两个字之间的相对位置和出现频次,为所述每两个字所对应的两个神经元之间构建链接关系,以构成所述短句对应的短句神经网络,其中,所述链接关系指示链接系数和信号传递方向,将各个所述短句神经网络融合,以构成分词识别词库;
其中,
所述链接系数是根据两个字之间的相对位置以及该两个字同时在一个短句中出现的频次,计算得出的一个值;
所述信号传递方向指两个字之间的先后顺序。
2.根据权利要求1所述的分词识别词库构建方法,其特征在于,
所述分词识别词库包括主神经网络以及所述主神经网络中的神经元所链接的链接器;
所述将各个所述短句神经网络融合,包括:
针对每一个所述短句神经网络执行:
将所述短句神经网络中的每一个所述神经元链接到所述链接器;
通过所述链接器遍历所述短句神经网络中的每一个所述神经元;
当遍历的结果为所述主神经网络与所述短句神经网络之间存在信号类型相同的神经元,将所述短句神经网络中,所述信号类型相同的神经元删除,并将所述信号类型相同的神经元相关的链接关系连接到所述主神经网络。
3.根据权利要求2所述的分词识别词库构建方法,其特征在于,
当遍历的结果为所述主神经网络与所述短句神经网络之间存在信号传递方向相同的链接关系时,
根据所述信号传递方向相同的链接关系指示的链接系数,更新所述主神经网络上所述信号传递方向相同的链接关系指示的链接系数。
4.根据权利要求2所述的分词识别词库构建方法,其特征在于,进一步包括:
获取到新增短句;
针对所述新增短句中的每一个增加字,执行:
将所述增加字转换为对应的神经元;
在所述主神经网络上,通过所述链接器查找与所述增加字对应的神经元相匹配的第一神经元,并激活所述第一神经元;
当两个所述第一神经元之间存在第一链接关系时,利用预设的激活函数,计算所述第一链接关系对应的第一链接系数;
利用计算出的所述第一链接系数更新所述第一链接关系指示的链接系数。
5.根据权利要求4所述的分词识别词库构建方法,其特征在于,进一步包括:
为所述神经元设置激活态和抑制态,其中,所述激活态指示为所述神经元被使用,所述抑制态指示为所述神经元未被使用;
当获取到恢复信号,将所述神经元的激活态转换为抑制态。
6.根据权利要求5所述的分词识别词库构建方法,其特征在于,
所述神经元进一步指示信号强度;
所述查找与所述增加字对应的神经元相匹配的第一神经元,包括:
查找与所述增加字对应的神经元指示的信号类型相匹配的第一神经元;
当所述增加字对应的神经元指示的信号强度不小于预设的阈值时,激活所述第一神经元。
7.根据权利要求1至4、5、6任一所述的分词识别词库构建方法,其特征在于,进一步包括:
针对训练文本集中的每一个短句,执行:
计算所述短句对应的md5码;
判断所述md5码是否已经被记录过,如果是,则忽略所述短句,否则,记录所述md5码,并执行所述为所述短句去重,并为去重后的短句中的每一个字构建对应的神经元的步骤。
8.根据权利要求1至4、5、6任一所述的分词识别词库构建方法,其特征在于,进一步包括:
为所述链接关系和所述神经元分别设置对应的衰减周期;
在所述分词识别词库被使用时,
所述链接关系处于抑制态的时长达到所述链接关系对应的衰减周期时,删除所述链接关系;
所述神经元处于抑制态的时长达到所述神经元对应的衰减周期时,删除所述神经元以及所述神经元所链接到的链接关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于建信金融科技有限责任公司,未经建信金融科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911288705.7/1.html,转载请声明来源钻瓜专利网。