[发明专利]一种阅读理解模型构建方法、装置、电子设备及存储介质

说明书

本发明提供一种阅读理解模型构建方法、装置、电子设备及存储介质，该方法包括：根据第一领域场景数据集，得到第一领域场景的训练集；根据所述第一领域场景的训练集，对通用阅读理解模型做二次训练，得到所述第一领域场景的专用阅读理解模型；所述通用阅读理解模型为根据通用领域场景数据集预先训练深度学习模型得到的。本发明在通用阅读理解模型的基础上进行增强训练减少了训练时间以及训练数据的标注成本，针对不同的领域场景单独建立专用阅读理解模型提高了对于单一领域的准确率。

技术领域

本发明涉及计算机应用技术领域，尤其涉及一种阅读理解模型构建方法、装置、电子设备及存储介质。

背景技术

机器阅读理解是指对于给定的问题以及文档，利用模型对问题预测答案。

现有阅读理解模型仅对训练数据进行拆分为训练集、验证集、测试集，训练优化模型。对于不同的领域场景阅读理解需求，仅通过直接增加训练集、验证集、测试集的方式扩大样本数据，使得阅读理解模型对新领域场景具有问答能力，这就导致模型在持续化构建使用过程中对单一领域场景答案的准确率出现波动。而为单一领域专门训练阅读理解模型，又需要花费大量时间，而且标注数据的成本也较高。

发明内容

本发明提供一种阅读理解模型构建方法，用以解决现有技术中阅读理解模型对于单一领域场景准确率较低，为单一领域专门训练阅读理解模型成本较高的缺陷。

第一方面，本发明提供一种阅读理解模型构建方法，包括：

根据第一领域场景数据集，得到第一领域场景的训练集；

根据所述第一领域场景的训练集，对通用阅读理解模型做二次训练，得到所述第一领域场景的专用阅读理解模型；

所述通用阅读理解模型为根据通用领域场景数据集预先训练深度学习模型得到的。

根据本发明提供的一种阅读理解模型构建方法，所述根据第一领域场景数据集，得到第一领域场景的训练集，包括：

确定所述第一领域场景数据集的领域场景类别与第二领域场景数据集的领域场景类别相同，则将所述第一领域场景数据集与第二领域场景数据集合并，得到所述第一领域场景的训练集；其中，所述第二领域场景数据集为已有的领域场景数据。

根据本发明提供的一种阅读理解模型构建方法，所述根据第一领域场景数据集，得到第一领域场景的训练集，包括：

确定不存在与所述第一领域场景数据的领域场景类别相同的已有领域场景数据集，则将所述第一领域场景数据作为所述第一领域场景的训练集。

根据本发明提供的一种阅读理解模型构建方法，所述确定不存在与所述第一领域场景数据的领域场景类别相同的已有领域场景数据集，将所述第一领域场景数据集作为第一领域场景的训练集之后，还包括：

将所述第一领域场景数据集加入到已有的领域场景数据中。

根据本发明提供的一种阅读理解模型构建方法，所述通用阅读理解模型的获取步骤包括：

获取通用领域场景数据集；

将所述通用领域场景数据集拆分为通用训练集、通用验证集、通用测试集；

根据所述通用训练集、通用验证集、通用测试集，对所述初始深度学习型进行训练验证、测试，得到所述通用阅读理解模型。

根据本发明提供的一种阅读理解模型构建方法，所述通用领域场景数据集是多领域场景阅读理解样本经过数据标注后的数据集合；

所述多领域场景阅读理解样本至少包括问题、文档、答案以及问题与答案所对应的文档位置。