[发明专利]一种用于文本校验的数据处理方法、电子设备及存储介质有效
申请号: | 202111310983.5 | 申请日: | 2021-11-08 |
公开(公告)号: | CN113761880B | 公开(公告)日: | 2022-03-04 |
发明(设计)人: | 刘远;陈旻晖 | 申请(专利权)人: | 北京中电汇智科技有限公司;中电(苏州)共享服务有限公司 |
主分类号: | G06F40/226 | 分类号: | G06F40/226;G06F16/31;G06F16/36 |
代理公司: | 北京锺维联合知识产权代理有限公司 11579 | 代理人: | 原春香 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 文本 校验 数据处理 方法 电子设备 存储 介质 | ||
1.一种用于文本校验的数据处理方法,其特征在于,所述方法还包括如下步骤:
S100、从文本数据库的第一文本集中获取m个第一文本均作为样本文本,构建成样本文本列表A=(A1,A2,A3,……,Am),Ai是指第i个样本文本,i=1……m,并当Ai中存在与预设关键词列表中任一预设关键词一致的关键词时,将Ai的关键词位置标记为指定起始位置和将Ai的结束位置标记为指定结束位置,且将所述指定起始位置和所述指定结束位置之间的语段作为Ai的目标语段,以基于存在所述目标语段的Ai作为训练集数据,构建成训练集,其中,所述第一文本是指存储半结构化数据的文本;
S200、将所述训练集输入至预设的语言模型中进行训练,得到已训练的语言模型,在S200步骤中还包括如下步骤:
S201、将所述训练集中Ai输入至预设的语言模型中,获取Ai对应的关键数据,构建成关键数据列表Si;
S203、获取Ai对应的文本ID,并根据Ai对应的文本ID,从校验数据列表中获取所述Ai对应的文本ID的所有校验数据,以每一所述校验数据作为第二中间数据构建成第二中间数据列表;
S205、遍历Ai对应的关键数据列表且根据所述Ai对应的关键数据列表和Ai对应的第二中间数据列表,确定出A的概率值F,F符合如下条件:
,其中,Si为所述Ai对应的关键数据列表中关键数据的数量,为所述Ai对应的关键数据列表中与所述第二中间数据列表中对应的第二中间数据不一致的数据数量;
S207、遍历A且当F≥预设的概率阈值时,得到已训练的语言模型;
S209、F<预设的概率阈值时,重新获取样本文本列表,以根据进行迭代至F≥预设的概率阈值时,得到已训练的语言模型;
在S209步骤中包括:与A可具有相同的样本文本,当对所述语言模型进行重新训练时,需要重新获取的与A为相同的文本类型,并中包括Ai对应的概率Fi<预设的概率阈值的样本文本且不包括Ai对应的概率Fi≥预设的概率阈值的样本文本,其中,
Fi符合如下条件:;
S300、获取目标文本且将所述目标文本输入至已训练的语言模型中,获取目标文本对应的目标数据列表B=(B1,B2,B3,……,Bn),Bj是指第j个目标数据,j=2……n,n为目标数据数量,并将B中每一Bj以若干个预设的三元组构架,获取所述目标文本对应的目标知识图谱;
S400、获取目标文本的文本ID,并根据目标文本的文本ID,从校验数据列表中获取所述目标文本的文本ID对应的所有校验数据,以每一所述校验数据作为第一中间数据构建成第一中间数据列表,其中,所述目标文本是指在文本数据库中除样本文本之外的任一第一文本;
其中,在S400步骤中还包括如下步骤:根据第一文本的文本ID,从文本数据库中获取第一文本的文本ID对应的若干个第二文本,并将所有的第二文本进行预处理,从所述第二文本中获取指定数据作为第一文本的校验数据,以根据所有第一文本的校验数据和第一文本的文本ID,构建成校验数据列表,其中,所述第二文本是指记录了用于校验第一文本的数据对应的文本,所述第二文本为结构化的文本;
S500、遍历所述目标知识图谱且当所述目标知识图谱中任一目标数据与所述第一中间数据列表中对应的第一中间数据不一致时,将所述第一中间数据替换为对应的所述目标数据。
2.根据权利要求1所述的用于文本校验的数据处理方法,其特征在于,在S100步骤中,Ai中的关键词通过自然语言处理方法进行确定。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中电汇智科技有限公司;中电(苏州)共享服务有限公司,未经北京中电汇智科技有限公司;中电(苏州)共享服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111310983.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种二氧化碳驱替用发泡剂及驱替方法技术
- 下一篇:废水分段式三维电催化装置