[发明专利]文本预处理方法、装置、存储介质及电子设备在审
申请号: | 202110236281.0 | 申请日: | 2021-03-03 |
公开(公告)号: | CN113033216A | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 王天舒 | 申请(专利权)人: | 东软集团股份有限公司 |
主分类号: | G06F40/35 | 分类号: | G06F40/35;G06F16/35;G16H10/60 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 王晓霞 |
地址: | 110179 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 预处理 方法 装置 存储 介质 电子设备 | ||
本公开涉及一种文本预处理方法、装置、存储介质及电子设备,所述方法包括:获取待处理文本;针对预构建的拆分句数据集中的拆分句,将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,所述分类结果表征该拆分句与所述待处理文本是否属于同一分类,所述拆分句数据集包括预先对完整文本进行精简处理得到的多条拆分句;根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句;根据与所述待处理文本相匹配的各所述目标拆分句生成目标文本,所述目标文本用于文本结构化处理,提高了文本结构化处理的准确率,并降低了文本结构化处理的处理难度。
技术领域
本公开涉及电子信息技术领域,具体地,涉及一种文本预处理方法、装置、存储介质及电子设备。
背景技术
在相关技术中,特别是在医学原始文本信息的文本结构化处理中,医学原始文本信息的简易化及其重要,在保证医学原始文本信息简易化的同时需要保留医学原始文本的真实语义,可以理解的是,医学原始文本信息越简易,文本结构化处理的难度越低,同时也会确保文本结构化处理的准确率。
因此,使医学原始文本信息在保留医学原始文本的真实语义的前提下实现简易化对文本结构化处理显得尤其重要。
发明内容
本公开的目的是提供一种文本预处理方法、装置、存储介质及电子设备,提高了文本结构化处理的准确率,并降低了文本结构化处理的处理难度。
为了实现上述目的,第一方面,本公开提供一种文本预处理方法,所述方法包括:
获取待处理文本;
针对预构建的拆分句数据集中的拆分句,将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,所述分类结果表征该拆分句与所述待处理文本是否属于同一分类,所述拆分句数据集包括预先对完整文本进行精简处理得到的多条拆分句;
根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句;
根据与所述待处理文本相匹配的各所述目标拆分句生成目标文本,所述目标文本用于文本结构化处理。
可选地,所述根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句,包括:
在所述分类结果表征对应的拆分句与所述待处理文本属于同一分类的情况下,判断该拆分句中的各字符是否均存在与所述待处理文本中;
若该拆分句中的各字符均存在与所述待处理文本中,则确定该拆分句为与所述待处理文本相匹配的目标拆分句。
可选地,针对预构建的拆分句数据集中的每一拆分句,循环执行所述将所述拆分句与所述待处理文本输入分类模型,得到所述分类模型输出的分类结果,以及所述根据所述分类结果确定所述拆分句数据集中与所述待处理文本相匹配的目标拆分句的步骤;并,
在每次确定一新的目标拆分句后,判断所述待处理文本的所有字符是否被已确定的所有目标拆分句所包括的字符覆盖;
在所述待处理文本的所有字符被已确定的所有目标拆分句所包括的字符覆盖的情况下,停止所述循环。
可选地,所述拆分句数据集中包括多个类别的拆分句子集,一个所述拆分句子集对应一个分类模型,所述针对预构建的拆分句数据集中的每一拆分句,将该拆分句与所述待处理文本输入分类模型,得到该分类模型输出的分类结果,包括:
从所述拆分句数据集中确定类别与所述待处理文本对应的目标拆分句子集;
针对所述目标拆分句子集中的拆分句,将所述拆分句与所述待处理文本输入对应该目标拆分句子集的分类模型,得到该分类模型输出的分类结果。
可选地,所述分类模型是通过如下方式训练得到的:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110236281.0/2.html,转载请声明来源钻瓜专利网。