[发明专利]文本处理、模型训练方法、装置、计算机设备和存储介质在审
申请号: | 202010881097.7 | 申请日: | 2020-08-27 |
公开(公告)号: | CN112084331A | 公开(公告)日: | 2020-12-15 |
发明(设计)人: | 刘知远;苏裕胜;韩旭;张正彦;林衍凯;李鹏;孙茂松;周杰 | 申请(专利权)人: | 清华大学;腾讯科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G06F40/295;G06F40/268;G06F40/211;G06F40/58;G06F16/34;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 陈小娜 |
地址: | 100084*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 模型 训练 方法 装置 计算机 设备 存储 介质 | ||
1.一种文本处理方法,其特征在于,所述方法包括:
获取待处理的目标文本,对所述目标文本进行编码,得到目标文本编码向量,所述目标文本编码向量包括所述目标文本对应的目标语义向量;
获取所述目标文本中的目标实体,确定所述目标实体对应的第一关联实体;
根据所述第一关联实体的实体表示向量以及对应的注意力权重,确定所述目标实体对应的目标知识表示向量,其中,所述注意力权重根据所述目标语义向量与关联关系表示向量之间的关联度得到,所述关联关系表示向量为表示实体关联关系的向量;
将所述目标文本编码向量与所述目标实体对应的目标知识表示向量进行融合处理,得到目标融合结果;
根据所述目标融合结果确定所述目标文本对应的文本处理结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一关联实体的实体表示向量以及对应的注意力权重,确定所述目标实体对应的目标知识表示向量包括:
获取所述第一关联实体与所述目标实体组成的关系网络图;
对于所述关系网络图中的网络图实体,获取表示所述网络图实体与邻接实体的关联关系的关联关系表示向量;
根据所述关联关系表示向量与所述目标语义向量得到向量关联度,根据所述向量关联度确定所述邻接实体对应的注意力权重;
根据所述邻接实体对应的注意力权重以及所述邻接实体的实体表示向量,确定所述网络图实体对应的目标知识表示向量;
从所述关系网络图的各个网络图实体对应的目标知识表示向量中,提取所述目标实体对应的目标知识表示向量。
3.根据权利要求2所述的方法,其特征在于,所述网络图实体对应的目标知识表示向量是知识向量确定模型输出的,所述知识向量确定模型包括至少一个目标隐层,所述根据所述邻接实体对应的注意力权重以及所述邻接实体的实体表示向量,确定所述网络图实体对应的目标知识表示向量包括:
将所述邻接实体的实体表示向量以及所述关联关系表示向量输入到所述目标隐层中进行处理,得到所述网络图实体对应的第一知识表示向量;
根据所述网络图实体对应的第一知识表示向量以及对应的所述邻接实体对应的注意力权重,确定所述网络图实体对应的目标知识表示向量。
4.根据权利要求3所述的方法,其特征在于,所述将所述邻接实体的实体表示向量以及所述关联关系表示向量输入到所述目标隐层中进行处理,得到所述网络图实体对应的第一知识表示向量包括:
根据所述网络图实体与所述邻接实体之间的实体关联关系确定目标计算方向,所述目标计算方向为相加或者相减;
根据所述目标计算方向对所述邻接实体的实体表示向量以及所述关联关系表示向量进行计算,得到所述网络图实体对应的计算表示向量;
利用所述目标隐层中的隐层参数对所述计算表示向量进行处理,得到所述网络图实体对应的第一知识表示向量。
5.根据权利要求4所述的方法,其特征在于,所述利用所述目标隐层中的隐层参数对所述计算表示向量进行处理,得到所述网络图实体对应的第一知识表示向量包括:
获取所述知识向量确定模型中,所述目标隐层对应的上一隐层输出的,所述邻接实体对应的输出表示向量;
所述目标隐层利用第一隐层参数对所述计算表示向量以及所述输出表示向量进行处理,得到所述网络图实体对应的第一知识表示向量。
6.根据权利要求2所述的方法,其特征在于,所述网络图实体对应的目标知识表示向量是知识向量确定模型输出的,所述知识向量确定模型包括至少一个目标隐层,所述根据所述关联关系表示向量与所述目标语义向量得到向量关联度,根据所述向量关联度确定所述邻接实体对应的注意力权重包括:
利用所述目标隐层中的第二隐层参数对所述关联关系表示向量进行处理,得到关键向量;
利用所述目标隐层中的第三隐层参数对所述目标语义向量进行处理,得到查询向量;
根据所述关键向量与所述查询向量计算得到向量关联度;
根据所述向量关联度确定所述邻接实体对应的注意力权重,所述向量关联度与所述邻接实体对应的注意力权重成正相关关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学;腾讯科技(深圳)有限公司,未经清华大学;腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010881097.7/1.html,转载请声明来源钻瓜专利网。