[发明专利]分词处理方法、装置、移动终端及计算机可读存储介质有效
申请号: | 201711175299.4 | 申请日: | 2017-11-22 |
公开(公告)号: | CN107832301B | 公开(公告)日: | 2021-09-17 |
发明(设计)人: | 肖求根;郑利群;詹金波;邓卓彬;何径舟 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06K9/62 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 宋合成 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分词 处理 方法 装置 移动 终端 计算机 可读 存储 介质 | ||
本发明提出一种分词处理方法、装置、移动终端及计算机可读存储介质,其中,该方法包括:在获取到待分词语句时,确定所述待分词语句对应的目标语言类型;根据所述目标语言类型,分别获取待分词语句中各单字对应的第一特征向量、两字对应的第二特征向量,及所述待分词语句中专有名词对应的第三特征向量;根据所述第一特征向量、第二特征向量及第三特征向量,确定各单字当前的第四特征向量;根据预设的汉字标签转移矩阵及所述各单字当前的第四特征向量,将所述待分词语句进行分词处理。由此,实现了根据待分词语句对应的目标语言类型,对待分词语句的分词处理,提高了对各种语言类型的待分词语句进行分词的准确性,且可以实现根据需要加载合适的资源,节省了移动终端的存储空间,改善了用户体验。
技术领域
本发明涉及分词处理技术领域,尤其涉及一种分词处理方法、装置、移动终端及计算机可读存储介质。
背景技术
随着计算机技术的不断发展,分词技术已经广泛应用于搜索引擎、机器翻译、语音合成、自动摘要等领域。其中,分词技术是指将一句或者一段文字切分成一个一个词语的技术。
现有技术,通常是利用基于统计的分词模型或基于词典的分词模型,对待分词语句进行分词处理。但是,当前的分词模型,往往是通过对特定语言的语料训练后得到的,从而对其它语言进行分词处理时,准确性较低,用户体验差。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明提出一种分词处理方法,实现了根据待分词语句对应的目标语言类型,对待分词语句的分词处理,提高了对各种语言类型的待分词语句进行分词的准确性,且可以实现根据需要加载合适的资源,节省了移动终端的存储空间,改善了用户体验。
本发明还提出一种分词处理装置。
本发明还提出一种移动终端。
本发明还提出一种计算机可读存储介质。
本发明第一方面实施例提出了一种分词处理方法,包括:在获取到待分词语句时,确定所述待分词语句对应的目标语言类型;根据所述目标语言类型,分别获取待分词语句中各单字对应的第一特征向量、两字对应的第二特征向量,及所述待分词语句中专有名词对应的第三特征向量;根据所述第一特征向量、第二特征向量及第三特征向量,确定各单字当前的第四特征向量;根据预设的汉字标签转移矩阵及所述各单字当前的第四特征向量,将所述待分词语句进行分词处理。
本发明实施例的分词处理方法,在获取到待分词语句时,首先确定待分词语句对应的目标语言类型,然后根据目标语言类型,分别获取待分词语句中各单字对应的第一特征向量、两字对应的第二特征向量,及待分词语句中专有名词对应的第三特征向量后,再根据第一特征向量、第二特征向量及第三特征向量,确定各单字当前的第四特征向量,从而根据预设的汉字标签转移矩阵及各单字当前的第四特征向量,将待分词语句进行分词处理。由此,实现了根据待分词语句对应的目标语言类型,对待分词语句的分词处理,提高了对各种语言类型的待分词语句进行分词的准确性,且可以实现根据需要加载合适的资源,节省了移动终端的存储空间,改善了用户体验。
本发明第二方面实施例提出了一种分词处理装置,包括:第一确定模块,用于在获取到待分词语句时,确定所述待分词语句对应的目标语言类型;第一获取模块,用于根据所述目标语言类型,分别获取待分词语句中各单字对应的第一特征向量、两字对应的第二特征向量,及所述待分词语句中专有名词对应的第三特征向量;第二确定模块,用于根据所述第一特征向量、第二特征向量及第三特征向量,确定各单字当前的第四特征向量;第一处理模块,用于根据预设的汉字标签转移矩阵及所述各单字当前的第四特征向量,将所述待分词语句进行分词处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711175299.4/2.html,转载请声明来源钻瓜专利网。