[发明专利]一种基于机器学习的分词方法及终端设备在审
申请号: | 201811181894.3 | 申请日: | 2018-10-11 |
公开(公告)号: | CN109492217A | 公开(公告)日: | 2019-03-19 |
发明(设计)人: | 吴壮伟 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 官建红 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于机器学习的分词方法及终端设备,包括:获取经过人工分词的文本数据;针对文本数据中的任一字符,判断字符的类型;根据字符的类型、在文本数据中与字符相邻且位于字符前面的第一预设数目的字符的类型、在文本数据中与字符相邻且位于字符后面的第二预设数目的字符的类型,获取字符的特征向量,得到训练集;构建分词模型,通过训练集对分词模型进行训练;根据完成训练的分词模型,将待处理文本进行分词处理。本发明根据字符与其上下文字符的类型关系构建特征向量,对不同的文本进行分词适应性更好,从而提高了分词的精度。 | ||
搜索关键词: | 分词 文本数据 基于机器 特征向量 终端设备 训练集 预设 文本 分词处理 关系构建 构建 学习 | ||
【主权项】:
1.一种基于机器学习的分词方法,其特征在于,该方法包括:获取经过人工分词的文本数据;针对所述文本数据中的任一字符,判断所述字符的类型,其中,所述字符的类型为标点符号、阿拉伯数字、中文数字或字母中的一种,或,所述字符的类型为所述字符单独构成一个中文词语、所述字符位于一个中文词语的词首位置、所述字符位于一个中文词语的中间位置或所述字符位于一个中文词语的词尾位置中的一种;根据所述字符的类型、在所述文本数据中与所述字符相邻且位于所述字符前面的第一预设数目的字符的类型、在所述文本数据中与所述字符相邻且位于所述字符后面的第二预设数目的字符的类型,获取所述字符的特征向量,得到训练集;构建分词模型,通过所述训练集对所述分词模型进行训练;根据完成训练的分词模型,将待处理文本进行分词处理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811181894.3/,转载请声明来源钻瓜专利网。