[发明专利]一种阅读理解模型构建方法、装置、电子设备及存储介质

权利要求书

1.一种阅读理解模型构建方法，其特征在于，包括：

根据第一领域场景数据集，得到第一领域场景的训练集；

根据所述第一领域场景的训练集，对通用阅读理解模型做二次训练，得到所述第一领域场景的专用阅读理解模型；

所述通用阅读理解模型为根据通用领域场景数据集预先训练深度学习模型得到的；

所述通用领域场景数据集是多领域场景阅读理解样本经过数据标注后的数据集合；

所述多领域场景阅读理解样本包括问题、文档、答案以及问题与答案所对应的文档位置；

所述根据第一领域场景数据集，得到第一领域场景的训练集，包括：

确定不存在与所述第一领域场景数据的领域场景类别相同的已有领域场景数据集，则将所述第一领域场景数据作为所述第一领域场景的训练集；

将所述第一领域场景数据集加入到已有的领域场景数据中。

2.根据权利要求1所述的阅读理解模型构建方法，其特征在于，所述根据第一领域场景数据集，得到第一领域场景的训练集，包括：

确定所述第一领域场景数据集的领域场景类别与第二领域场景数据集的领域场景类别相同，则将所述第一领域场景数据集与第二领域场景数据集合并，得到所述第一领域场景的训练集；其中，所述第二领域场景数据集为已有的领域场景数据。

3.根据权利要求1所述的阅读理解模型构建方法，其特征在于，所述通用阅读理解模型的获取步骤包括：

获取通用领域场景数据集；

将所述通用领域场景数据集拆分为通用训练集、通用验证集、通用测试集；

根据所述通用训练集、通用验证集、通用测试集，对初始深度学习模 型进行训练验证、测试，得到所述通用阅读理解模型。

4.根据权利要求3所述的阅读理解模型构建方法，其特征在于，所述根据所述通用训练集、通用验证集、通用测试集，对所述深度学习模 型进行训练、验证、测试，得到所述通用阅读理解模型，进一步包括：

根据所述通用训练集对初始深度学习模型进行训练，优化模型的参数；

根据所述通用验证集对训练优化后的深度学习模型进行验证，优化模型的超参数；

根据所述通用测试集对验证优化后的深度学习模型进行测试评估，得到验证优化后的深度学习模型的泛化误差；

确定所述泛化误差小于预设阈值，则取所述验证优化后的深度学习模型为所述通用阅读理解模型。

5.一种阅读理解模型构建装置，其特征在于，包括：

训练集生成模块，用于根据第一领域场景数据集，得到第一领域场景的训练集；所述根据第一领域场景数据集，得到第一领域场景的训练集，包括：确定不存在与所述第一领域场景数据的领域场景类别相同的已有领域场景数据集，则将所述第一领域场景数据作为所述第一领域场景的训练集；将所述第一领域场景数据集加入到已有的领域场景数据中；

专用阅读理解模型生成模块，用于根据所述第一领域场景的训练集，对通用阅读理解模型做二次训练，得到所述第一领域场景的专用阅读理解模型；

所述通用阅读理解模型为根据通用领域场景数据集预先训练深度学习模型得到的；

所述通用领域场景数据集是多领域场景阅读理解样本经过数据标注后的数据集合；

所述多领域场景阅读理解样本包括问题、文档、答案以及问题与答案所对应的文档位置。

6.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至4任一项所述阅读理解模型构建方法的步骤。

7.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述阅读理解模型构建方法的步骤。