[发明专利]文本处理、模型训练方法、装置、计算机设备和存储介质

说明书

本申请涉及一种文本处理、模型训练方法、装置、计算机设备和存储介质。文本处理方法包括：获取待处理的目标文本，对目标文本进行编码，得到目标文本编码向量；获取目标文本中的目标实体，确定目标实体对应的第一关联实体；根据第一关联实体的实体表示向量以及对应的注意力权重，确定目标实体对应的目标知识表示向量；将目标文本编码向量与目标实体对应的目标知识表示向量进行融合处理，得到目标融合结果；根据目标融合结果确定目标文本对应的文本处理结果。本申请实施例的文本处理结果可以是基于人工智能的文本处理模型处理得到的，采用本方法能够提高得到的文本处理结果的准确度。

技术领域

本申请涉及自然语言处理技术领域，特别是涉及一种文本处理、模型训练方法、装置、计算机设备和存储介质。

背景技术

随着计算机以及互联网技术的发展，在很多情况下都需要对文本进行处理，例如对文本进行翻译或者对文本进行命名实体识别等。

目前，可以基于人工智能的文本处理模型对文本进行处理，以得到文本处理结果。然而，经常存在文本处理模型处理得到的文本处理结果准确度比较差的情况，即文本处理准确度比较低。

发明内容

基于此，有必要针对上述技术问题，提供一种文本处理、模型训练方法、装置、计算机设备和存储介质。

一种文本处理方法，所述方法包括：获取待处理的目标文本，对所述目标文本进行编码，得到目标文本编码向量，所述目标文本编码向量包括所述目标文本对应的目标语义向量；获取所述目标文本中的目标实体，确定所述目标实体对应的第一关联实体；根据所述第一关联实体的实体表示向量以及对应的注意力权重，确定所述目标实体对应的目标知识表示向量，其中，所述注意力权重根据所述目标语义向量与关联关系表示向量之间的关联度得到，所述关联关系表示向量为表示实体关联关系的向量；将所述目标文本编码向量与所述目标实体对应的目标知识表示向量进行融合处理，得到目标融合结果；根据所述目标融合结果确定所述目标文本对应的文本处理结果。

一种文本处理装置，所述装置包括：目标文本编码模块，用于获取待处理的目标文本，对所述目标文本进行编码，得到目标文本编码向量，所述目标文本编码向量包括所述目标文本对应的目标语义向量；第一实体获取模块，用于获取所述目标文本中的目标实体，确定所述目标实体对应的第一关联实体；目标知识表示向量确定模块，用于根据所述第一关联实体的实体表示向量以及对应的注意力权重，确定所述目标实体对应的目标知识表示向量，其中，所述注意力权重根据所述目标语义向量与关联关系表示向量之间的关联度得到，所述关联关系表示向量为表示实体关联关系的向量；第一融合模块，用于将所述目标文本编码向量与所述目标实体对应的目标知识表示向量进行融合处理，得到目标融合结果；文本处理结果确定模块，用于根据所述目标融合结果确定所述目标文本对应的文本处理结果。

在一些实施例中，所述目标知识表示向量确定模块包括：关系网络图获取单元，用于获取所述第一关联实体与所述目标实体组成的关系网络图；关联关系表示向量获取单元，用于对于所述关系网络图中的网络图实体，获取表示所述网络图实体与邻接实体的关联关系的关联关系表示向量；注意力权重确定单元，用于根据所述关联关系表示向量与所述目标语义向量得到向量关联度，根据所述向量关联度确定所述邻接实体对应的注意力权重；目标知识表示向量确定单元，用于根据所述邻接实体对应的注意力权重以及所述邻接实体的实体表示向量，确定所述网络图实体对应的目标知识表示向量；提取单元，用于从所述关系网络图的各个网络图实体对应的目标知识表示向量中，提取所述目标实体对应的目标知识表示向量。

在一些实施例中，所述网络图实体对应的目标知识表示向量是知识向量确定模型输出的，所述知识向量确定模型包括至少一个目标隐层，所述目标知识表示向量确定单元用于：将所述邻接实体的实体表示向量以及所述关联关系表示向量输入到所述目标隐层中进行处理，得到所述网络图实体对应的第一知识表示向量；根据所述网络图实体对应的第一知识表示向量以及对应的所述邻接实体对应的注意力权重，确定所述网络图实体对应的目标知识表示向量。