[发明专利]分词处理方法、装置、移动终端及计算机可读存储介质有效
申请号: | 201711175946.1 | 申请日: | 2017-11-22 |
公开(公告)号: | CN107832302B | 公开(公告)日: | 2021-09-17 |
发明(设计)人: | 郑利群;詹金波;肖求根;邓卓彬;何径舟 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 宋合成 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分词 处理 方法 装置 移动 终端 计算机 可读 存储 介质 | ||
1.一种分词处理方法,其特征在于,包括:
获取待分词语句中各单字对应的第一特征向量及两字对应的第二特征向量,其中,所述第一特征向量表征所述各单字的标签分别为开头字、中间字、结束字和单字词组的权值,所述第二特征向量表征所述两字中每个单字与另一个单字组合时,所述每个单字的标签分别为开头字、中间字、结束字和单字词组的权值;
根据所述第一特征向量及第二特征向量,确定各单字当前的第三特征向量,所述第三特征向量与所述第一特征向量的维数相同,所述确定各单字当前的第三特征向量包括:将所述第一特征向量及第二特征向量线性叠加,得到所述第三特征向量;
根据预设的汉字标签转移矩阵及所述各单字当前的第三特征向量,将所述待分词语句进行分词处理。
2.如权利要求1所述的方法,其特征在于,所述确定待分词语句中各单字对应的第一特征向量之前,还包括:
将所述待分词语句中包括的各字符进行归一化处理。
3.如权利要求1所述的方法,其特征在于,所述将所述待分词语句进行分词处理之前,还包括:
根据预设的专有名词词典及切分规则,对所述各单字当前对应的第三特征向量进行修正处理。
4.如权利要求1-3任一所述的方法,其特征在于,所述获取待分词语句中各单字对应的第一特征向量,包括:
通过查询预设的发射矩阵词典,获取所述待分词语句中各单字对应的第一特征向量。
5.如权利要求1-3任一所述的方法,其特征在于,所述将所述待分词语句进行分词处理,包括:
将所述预设的汉字标签转移矩阵及所述各单字当前的第三特征向量,进行马尔可夫解码处理,确定所述各单字当前对应的标签向量;
根据所述各单字当前对应的标签向量,将所述待分词语句进行分词处理。
6.一种分词处理装置,其特征在于,包括:
获取模块,用于获取待分词语句中各单字对应的第一特征向量及两字对应的第二特征向量,其中,所述第一特征向量表征所述各单字的标签分别为开头字、中间字、结束字和单字词组的权值,所述第二特征向量表征所述两字中每个单字与另一个单字组合时,所述每个单字的标签分别为开头字、中间字、结束字和单字词组的权值;
确定模块,用于根据所述第一特征向量及第二特征向量,确定各单字当前的第三特征向量,所述第三特征向量与所述第一特征向量的维数相同,所述确定模块具体用于:将所述第一特征向量及第二特征向量线性叠加,得到所述第三特征向量;
第一处理模块,用于根据预设的汉字标签转移矩阵及所述各单字当前的第三特征向量,将所述待分词语句进行分词处理。
7.如权利要求6所述的装置,其特征在于,还包括:
第二处理模块,用于将所述待分词语句中包括的各字符进行归一化处理。
8.如权利要求6所述的装置,其特征在于,还包括:
第三处理模块,用于根据预设的专有名词词典及切分规则,对所述各单字当前对应的第三特征向量进行修正处理。
9.如权利要求6-8任一所述的装置,其特征在于,所述获取模块,具体用于:
通过查询预设的发射矩阵词典,获取所述待分词语句中各单字对应的第一特征向量。
10.如权利要求6-8任一所述的装置,其特征在于,所述第一处理模块,具体用于:
将所述预设的汉字标签转移矩阵及所述各单字当前的第三特征向量,进行马尔可夫解码处理,确定所述各单字当前对应的标签向量;
根据所述各单字当前对应的标签向量,将所述待分词语句进行分词处理。
11.一种移动终端,包括:
存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-5中任一所述的分词处理方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的分词处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711175946.1/1.html,转载请声明来源钻瓜专利网。