[发明专利]用于生成模型的方法和装置

说明书

本申请实施例公开了用于生成模型的方法和装置。该方法的一具体实施方式包括：获取样本集，样本集中包括样本语句以及与样本语句对应的标注知识；从样本集中选取样本，以及执行以下训练步骤：样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；确定第一奖励信号；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。该实施方式丰富了模型的生成方式。

技术领域

本申请实施例涉及计算机技术领域，尤其涉及用于生成模型的方法和装置。

背景技术

自然语言处理，是对人们日常使用的语言进行处理，以实现与计算机之间的有效通信的技术，它是人工智能领域的一个重要研究方向。自然语言处理中，往往需要借助知识库来对文本语言进行理解，知识库可以提供丰富的实体知识信息，包括实体的属性信息、实体间的关系信息等。因此，如何从自然语言中提取出有效的知识信息以构造知识库，成为学术界和工业界的研究探索的热点问题。

由于自然语言灵活多变，自动化的信息抽取具有一定的难度。尤其对于不限定领域、类别实体的开放信息抽取，需要从海量、冗余、含有噪声的不规范文本中抽取出开放类别的实体、实体关系等知识。目前学术界与工业界所采用的方案大都是基于规则的方法。其中一种基于规则的方法是对语句进行语法分析生成语法分析树，在语法分析树上施加规则来提取相关的信息。例如根据句子语法中主语、谓词和宾语的位置规则来提取对应的信息。这些规则通常由专家来设定，针对不同类型的信息的抽取，规则的形式一般是不相同的。因此，在抽取多种类型的信息的开放信息抽取场景中，需要设定大量的规则。

发明内容

本申请实施例提出了用于生成模型的方法和装置。

第一方面，本申请实施例提供了一种用于生成模型的方法，该方法包括：获取样本集，样本集中包括样本语句以及与样本语句对应的标注知识；从样本集中选取样本，以及执行以下训练步骤：将选取的样本中的样本语句输入第一初始模型，生成与样本语句对应的第一预测知识；将第一预测知识输入第二初始模型，生成与第一预测知识对应的第一预测语句；将标注知识输入第二初始模型，生成与标注知识对应的第二预测语句；将第二预测语句输入第一初始模型，生成与第二预测语句对应的第二预测知识；根据以下信息项中的至少一项确定第一奖励信号：第一预测知识符合预设的知识表达规则的程度、第一预测知识与标注知识的相似度、第二预测知识为标注知识的概率；根据所确定的第一奖励信号利用强化学习方法训练得出第一模型。

在一些实施例中，训练步骤还包括：根据以下信息项中的至少一项确定第二奖励信号：第二预测语句符合预设的语言表达规则的程度、第二预测语句与样本语句的相似度、第一预测语句为样本语句的概率；根据所确定的第二奖励信号利用强化学习方法训练得出第二模型。

在一些实施例中，第一初始模型包括编码器和解码器；以及将样本语句输入第一初始模型，生成与样本语句对应的第一预测知识，包括：根据样本语句构造输入序列；利用编码器将输入序列映射为输入隐状态序列，利用解码器将输出序列映射为输出隐状态序列；利用解码器对输入隐状态序列进行解码，生成预测状态序列；根据预测状态序列得到第一预测知识。

在一些实施例中，利用解码器对输入隐状态序列进行解码，生成预测状态序列，包括：对于待生成的预测状态序列中的目标位置，获取解码器的隐藏层在解码得出目标位置的上一个位置的预测状态后的状态，作为解码器的当前隐状态；基于当前隐状态计算输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度；基于匹配度计算各输入隐状态对目标位置的预测状态的注意力权重；对各输入隐状态按照注意力权重进行加权求和得到上下文向量；基于上下文向量、输出隐状态序列中目标位置的上一个位置的输出隐状态、以及解码器的隐藏层在解码目标位置的预测状态时的状态，计算出目标位置的预测状态的概率分布；根据概率分布，确定出目标位置的预测状态。