[发明专利]文本预处理方法、装置、存储介质及电子设备在审
申请号: | 202110236281.0 | 申请日: | 2021-03-03 |
公开(公告)号: | CN113033216A | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 王天舒 | 申请(专利权)人: | 东软集团股份有限公司 |
主分类号: | G06F40/35 | 分类号: | G06F40/35;G06F16/35;G16H10/60 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 王晓霞 |
地址: | 110179 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 预处理 方法 装置 存储 介质 电子设备 | ||
1.一种文本预处理方法,其特征在于,所述方法包括:
获取待处理文本;
针对预构建的拆分句数据集中的拆分句,将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,所述分类结果表征该拆分句与所述待处理文本是否属于同一分类,所述拆分句数据集包括预先对完整文本进行精简处理得到的多条拆分句;
根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句;
根据与所述待处理文本相匹配的各所述目标拆分句生成目标文本,所述目标文本用于文本结构化处理。
2.根据权利要求1所述的方法,其特征在于,所述根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句,包括:
在所述分类结果表征对应的拆分句与所述待处理文本属于同一分类的情况下,判断该拆分句中的各字符是否均存在与所述待处理文本中;
若该拆分句中的各字符均存在与所述待处理文本中,则确定该拆分句为与所述待处理文本相匹配的目标拆分句。
3.根据权利要求1所述的方法,其特征在于,针对预构建的拆分句数据集中的每一拆分句,循环执行所述将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,以及所述根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句的步骤;并,
在每次确定一新的目标拆分句后,判断所述待处理文本的所有字符是否被已确定的所有目标拆分句所包括的字符覆盖;
在所述待处理文本的所有字符被已确定的所有目标拆分句所包括的字符覆盖的情况下,停止所述循环。
4.根据权利要求1所述的方法,其特征在于,所述拆分句数据集中包括多个类别的拆分句子集,一个所述拆分句子集对应一个分类模型,所述针对预构建的拆分句数据集中的拆分句,将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,包括:
从所述拆分句数据集中确定类别与所述待处理文本对应的目标拆分句子集;
针对所述目标拆分句子集中的拆分句,将所述拆分句与所述待处理文本输入对应该目标拆分句子集的分类模型,得到该分类模型输出的分类结果。
5.根据权利要求1所述的方法,其特征在于,所述分类模型是通过如下方式训练得到的:
对训练文本进行精简处理,得到多个标准拆分句,其中,所述拆分句数据集中包括所述标准拆分句;
针对每一所述标准拆分句与所述训练文本进行组合,并将得到的第一文本组合标记为第一正样本;
针对多个所述标准拆分句与随机文本进行组合,并将得到的第二文本组合标记为第一负样本;
根据所述第一正样本和所述第一负样本训练所述分类模型。
6.根据权利要求1-5中任一项所述的方法,其特征在于,所述根据与所述待处理文本相匹配的各所述目标拆分句生成目标文本,包括:
针对每一所述目标拆分句,从预先构建的标准业务词集合中,确定所述目标拆分句中是否存在需要替换的业务词;
在所述目标拆分句中存在需要替换的业务词的情况下,根据所述标准业务词集合中对应的标准业务词对所述目标拆分句中需要替换的业务词进行替换;
将各所述目标拆分句组合得到所述目标文本。
7.根据权利要求6所述的方法,其特征在于,所述从预先构建的标准业务词集合中,确定所述目标拆分句中是否存在需要替换的业务词,包括:
将所述标准业务词集合中的任一标准业务词作为目标标准业务词,将所述目标标准业务词与所述目标拆分句输入查找模型,得到所述查找模型输出的查找结果;
所述在所述目标拆分句中存在需要替换的业务词的情况下,根据所述标准业务词集合中对应的标准业务词对所述目标拆分句中需要替换的业务词进行替换,包括:
在所述查找结果表征所述目标拆分句中存在需要替换的业务词的情况下,根据所述目标标准业务词对所述目标拆分句中需要替换的业务词进行替换。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110236281.0/1.html,转载请声明来源钻瓜专利网。