[发明专利]文本处理方法及设备、信息抽取方法及系统、介质在审
申请号: | 202010537652.4 | 申请日: | 2020-06-12 |
公开(公告)号: | CN111695054A | 公开(公告)日: | 2020-09-22 |
发明(设计)人: | 沈大框;张莹;陈成才 | 申请(专利权)人: | 上海智臻智能网络科技股份有限公司 |
主分类号: | G06F16/955 | 分类号: | G06F16/955;G06F16/35;G06F40/279;G06F40/30;G06K9/62 |
代理公司: | 上海知锦知识产权代理事务所(特殊普通合伙) 31327 | 代理人: | 潘彦君 |
地址: | 201803 上海市嘉*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 设备 信息 抽取 系统 介质 | ||
1.一种文本处理方法,其特征在于,包括:
识别初始文本中存在的指代关系;
基于识别得到的指代关系,对所述初始文本进行指代消解处理,得到处理后的指代消解文本;
对各指代消解文本分别进行实体识别处理;
获取各指代消解文本中处于相同次序的指代消解语句,并基于所述处于相同次序的指代消解语句的实体识别结果,对所述处于相同次序的指代消解语句进行筛选处理;
将各筛选后的指代消解语句进行合并,得到语义处理文本。
2.根据权利要求1所述的文本处理方法,其特征在于,所述基于识别得到的指代关系,对所述初始文本进行指代消解处理,得到处理后的指代消解文本,包括:
从所述初始文本中获取所述指代关系的成分,并从中选取所述指代关系的主要成分;
从所述初始文本中获取与所述主要成分的指代关系相同的部分或全部成分,并替换为所述主要成分,得到处理后的指代消解文本。
3.根据权利要求1或2所述的文本处理方法,其特征在于,所述对各指代消解文本分别进行实体识别处理,包括:
将各指代消解文本分别输入预设的实体识别模型中,获得各指代消解文本的实体预测概率矩阵;
确定各指代消解文本的实体预测概率矩阵中符合预设的第一条件的分布位置,将各指代消解文本中相应分布位置的成分作为实体,得到实体识别结果。
4.根据权利要求3所述的文本处理方法,其特征在于,在所述对各指代消解文本分别进行实体识别处理之前,还包括:
将预设的训练语料和所述训练语料的实体真实概率矩阵输入所述实体识别模型中进行训练,得到所述训练语料的实体预测概率矩阵;
基于所述训练语料的实体预测概率矩阵和所述训练语料的实体真实概率矩阵,进行误差计算,得到结果误差值;
若所述结果误差值满足预设的训练完成条件,所述实体识别模型完成训练,否则,调整所述实体识别模型的参数,并将所述训练语料和所述训练语料的实体真实概率矩阵输入参数调整后的实体识别模型进行训练,直至所述实体识别模型完成训练。
5.根据权利要求4所述的文本处理方法,其特征在于,所述各指代消解文本的实体预测概率矩阵包括:用于表征各指代消解文本中实体预测起始位置的第一预测概率向量和用于表征各指代消解文本中实体预测结束位置的第二预测概率向量;
所述确定各指代消解文本的实体预测概率矩阵中符合预设的第一条件的分布位置,将各指代消解文本中相应分布位置的成分作为实体,包括:
将所述第一预测概率向量与预设的第一阈值进行比较,确定所述第一预测概率向量中概率值大于所述第一阈值的分布位置,得到各指代消解文本的实体预测起始位置分布信息;
将所述第二预测概率向量与预设的第二阈值进行比较,确定所述第二预测概率向量中概率值大于所述第二阈值的分布位置,得到各指代消解文本的实体预测结束位置分布信息;
基于各指代消解文本的实体预测起始位置分布信息和实体预测结束位置分布信息,得到各指代消解文本的实体分布位置区间,并获取各指代消解文本中相应分布位置区间内的成分作为实体。
6.根据权利要求5所述的文本处理方法,其特征在于,所述训练语料的实体预测概率矩阵包括:用于表征所述训练语料中实体预测起始位置的第三预测概率向量和用于表征所述训练语料中实体预测结束位置的第四预测概率向量;所述训练语料的实体真实概率矩阵包括:用于表征所述训练语料中实体真实起始位置的第一真实概率向量和用于表征所述训练语料中实体真实结束位置的第二真实概率向量;
所述基于所述训练语料的实体预测概率矩阵和所述训练语料的实体真实概率矩阵,进行误差计算,得到结果误差值,包括:
采用以下损失函数进行误差计算,得到结果误差值:
其中,ysi为所述第一真实概率向量中第i个概率值;yei为所述第二真实概率向量中第i个概率值;为所述第三预测概率向量中第i个概率值;为所述第四预测概率向量中第i个概率值;i为自然数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海智臻智能网络科技股份有限公司,未经上海智臻智能网络科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010537652.4/1.html,转载请声明来源钻瓜专利网。