[发明专利]文本处理设备及信息抽取系统在审
申请号: | 202010537624.2 | 申请日: | 2020-06-12 |
公开(公告)号: | CN113807086A | 公开(公告)日: | 2021-12-17 |
发明(设计)人: | 沈大框;张莹;陈成才 | 申请(专利权)人: | 上海智臻智能网络科技股份有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F16/36;G06F16/953;G06F40/237;G06F40/30 |
代理公司: | 上海知锦知识产权代理事务所(特殊普通合伙) 31327 | 代理人: | 潘彦君 |
地址: | 201803 上海市嘉*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 设备 信息 抽取 系统 | ||
1.一种文本处理设备,其特征在于,包括:
指代关系识别单元,适于识别初始文本中存在的指代关系;
指代消解处理单元,适于根据识别得到的指代关系,对所述初始文本进行指代消解处理,得到处理后的指代消解文本;
实体识别处理单元,适于对各指代消解文本分别进行实体识别处理;
语句删减处理单元,适于获取各指代消解文本中处于相同次序的指代消解语句,并所述处于相同次序的指代消解语句的实体识别结果,对所述处于相同次序的指代消解语句进行筛选处理;
语句合并单元,适于将各筛选后的语句集合进行合并,得到语义处理文本。
2.根据权利要求1所述的文本处理设备,其特征在于,所述指代消解处理单元包括:
主要成分确定子单元,适于从所述初始文本中获取所述指代关系的成分,并从中选取所述指代关系的主要成分;
替换子单元,适于从所述初始文本中获取与所述主要成分的指代关系相同的部分或全部成分,并替换为所述主要成分,得到处理后的指代消解文本。
3.根据权利要求1或2所述的文本处理设备,其特征在于,所述实体识别处理单元适于将将各指代消解文本分别输入预设的实体识别模型中,获得各指代消解文本的实体预测概率矩阵,并确定各指代消解文本的实体预测概率矩阵中符合预设的第一条件的分布位置,将各指代消解文本中相应分布位置的成分作为实体,得到实体识别结果。
4.根据权利要求3所述的文本处理设备,其特征在于,还包括:模型预训练单元,适于在对各指代消解文本分别进行实体识别处理之前,对所述实体识别模型进行预训练。
5.根据权利要求4所述的文本处理设备,其特征在于,所述模型预训练单元包括:
训练数据获取模块,适于获取预设的训练语料和所述训练语料的实体真实概率矩阵;
模型训练模块,适于将预设的训练语料和所述训练语料的实体真实概率矩阵输入所述实体识别模型中进行训练,得到所述训练语料的实体预测概率矩阵,误差计算模块,适于根据所述训练语料的实体预测概率矩阵和所述训练语料的实体真实概率矩阵,进行误差计算,得到结果误差值;匹配模块,适于判断所述结果误差值是否满足预设的训练完成条件,在确定满足所述训练完成条件后,确定所述实体识别模型完成训练;
模型参数调整模块,适于在确定不满足所述训练完成条件后,调整所述实体识别模型的参数。
6.根据权利要求5所述的文本处理设备,其特征在于,所述各指代消解文本的实体预测概率矩阵包括:用于表征各指代消解文本中实体预测起始位置的第一预测概率向量和用于表征各指代消解文本中实体预测结束位置的第二预测概率向量;
所述实体识别处理单元适于将所述第一预测概率向量与预设的第一阈值进行比较,确定所述第一预测概率向量中概率值大于所述第一阈值的分布位置,得到各指代消解文本的实体预测起始位置分布信息,并将所述第二预测概率向量与预设的第二阈值进行比较,确定所述第二预测概率向量中概率值大于所述第二阈值的分布位置,得到各指代消解文本的实体预测结束位置分布信息;根据各指代消解文本的实体预测起始位置分布信息和实体预测结束位置分布信息,得到各指代消解文本的实体分布位置区间,并获取各指代消解文本中相应分布位置区间内的成分作为实体。
7.根据权利要求6所述的文本处理设备,其特征在于,所述训练语料的实体预测概率矩阵包括:用于表征所述训练语料中实体预测起始位置的第三预测概率向量和用于表征所述训练语料中实体预测结束位置的第四预测概率向量;所述训练语料的实体真实概率矩阵包括:用于表征所述训练语料中实体真实起始位置的第一真实概率向量和用于表征所述训练语料中实体真实结束位置的第二真实概率向量;
所述误差计算模块适于采用以下损失函数进行误差计算,得到结果误差值:
其中,ysi为所述第一真实概率向量中第i个概率值;yei为所述第二真实概率向量中第i个概率值;为所述第三预测概率向量中第i个概率值;为所述第四预测概率向量中第i个概率值;i为自然数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海智臻智能网络科技股份有限公司,未经上海智臻智能网络科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010537624.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:苯并六元环衍生物及其应用
- 下一篇:蓄冷材料、制备方法、包括其的蓄冷液及应用
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置