[发明专利]信息生成方法与装置、训练方法、电子设备和存储介质

说明书

本发明公开了一种信息生成方法与装置、训练方法、电子设备和存储介质，本发明属于人工智能技术领域，该信息生成方法包括：获取采用文博领域语言风格描述目标历史事件的多个目标汉语语句；将目标汉语语句输入初编码层，输出多个初编码字向量；将初编码字向量输入风格化编码网络，输出多个词向量；将多个词向量输入解码器，输出与目标历史事件关联的三元组。本发明可解决传统识别模型对文博领域语言识别准确度不高的问题，可实现在文博领域的知识图谱自动构建，提高相关领域从业者的工作效率。

技术领域

本发明属于人工智能技术领域，具体涉及一种信息生成方法与装置、训练方法、电子设备和存储介质。

背景技术

文博领域文本语言风格独特，包含大量古代中文，语法结构与现代普通话结构相差甚远，在实体关系抽取时，往往因语法结构的特殊性导致实体关系对难以鉴别，古汉语自身的语义特点也使得字面意思不能准确理解。

目前应用于通用语言风格的实体关系抽取技术使用语言预训练模型对输入语句进行编码，但语言预训练模型是由通用文本的预料库进行训练，对专有领域的文本适应性较差，因此难以在文博领域的文本中取得较好的效果。

发明内容

有鉴于此，本发明提供了一种文博领域事件信息生成方法，以至少部分解决上述技术问题。

上述文博领域事件信息生成方法包括：

获取采用文博领域语言风格描述目标历史事件的多个目标汉语语句，目标汉语语句中包括长实体词组和非长实体词组；

将多个目标汉语语句输入初编码层，以便通过初编码层对每个目标汉语语句进行初编码后，输出多个初编码字向量，其中初编码字向量为目标汉语语句中的每个字的第一上下文特征表示；

将多个初编码字向量输入风格化编码网络，以便通过风格化编码网络对多个初编码字向量进行文博领域风格化编码后，输出多个词向量，其中词向量包括目标汉语语句中的长实体词组和非长实体词组的上下文特征表示；

将多个词向量输入解码器，以便通过解码器对多个词向量进行解码后输出与目标历史事件关联的事件信息，其中事件信息包括与目标历史事件关联的多个三元组，其中每个三元组包括第一实体、第二实体以及第一实体和第二实体之间的关系，第一实体和第二实体的实体类别包括以下至少之一：人物、事件、时间、地点、事物、文物、年代。

根据本发明的实施例，上述方法还包括：

利用与目标历史事件关联的多个三元组，生成与目标历史事件关联的知识图谱，知识图谱包括第一图形元素、第二图形元素、第三图形元素，第一图形元素与第一实体关联，第二图形元素与第二实体关联，第三图形元素与第一实体和第二实体之间的关系关联。

根据本发明的实施例，风格化编码网络包括语言风格化层和可学习字典层，通过风格化编码网络对多个初编码字向量进行文博领域风格化编码后，输出多个词向量包括：

将多个初编码字向量输入语言风格化层，以便通过语言风格化层对多个初编码字向量进行特征优化后输出多个风格化字向量，其中风格化字向量为目标汉语语句中的每个字的第二上下文特征表示；

将多个风格化字向量输入可学习字典层，以便利用可学习字典层对多个风格化字向量进行词编码后，输出多个词向量。

根据本发明的实施例，语言风格化层包括加掩码的双向自注意力网络、前馈神经网络；可学习字典层包括加掩码的单向自注意力网络、前馈神经网络。

本发明的另一方面提供了一种文本识别模型训练方法，包括：

获取训练文本，其中训练文本为采用文博领域语言风格描述预选历史事件的多个预选汉语语句，训练文本中包括长实体词组和非长实体词组；