[发明专利]一种基于数据增强的阅读理解选择题答题方法

说明书

本发明涉及自然语言处理领域，具体涉及一种基于数据增强的阅读理解选择题答题方法。所述方法为：利用滑动窗口方法裁剪阅读理解选择题的背景材料；规范阅读理解选择题的背景材料、题干和选项数据格式；利用TF‑IDF方法从词频角度提取答题候选句，得到答题材料句子集X；利用Bi‑Attention从高维句向量角度提取答题候选句，得到答题材料句子集X；合并去重S3、S4所得的句子集X、Y，得到候选句集Z；利用适应于阅读理解选择题的EDA策略扩充候选句集Z，得到最终数据增强候选句集；将最终数据增强候选句集输入到BERT模型做阅读理解选择题答案预测。

技术领域

本发明涉及自然语言处理领域，具体涉及一种基于数据增强的阅读理解选择题答题方法。

背景技术

近年来，机器阅读理解任务受到国内外自然语言处理研究领域学者的广泛关注，已成为评价基于自然语言理解的智能系统的核心任务之一。

机器阅读理解主要包括多项选择题和主观问答题。其中，阅读理解选择题又分为文意理解类和片段理解类选择题，二者旨在基于对背景材料的“理解”从多个选项中选出最佳答案，由于提供的背景材料相对较长且关键信息极其具有隐藏性，答案无法在背景材料中直接找到。同时，选择题中不同选项涉及的问题也不限定所处的段落，即一个问题可能需要理解多个段落甚至多篇材料。

阅读理解选择题通常包含一篇或多篇背景材料、一个或多个问题以及每个问题的四个选项A、B、C、D。从实验数据集上看，中文阅读理解选择题任务数据集具有更小的数据规模和更大程度的复杂性，问题解答过程中通常会用到更多的常识知识和推理。

随着深度学习技术的快速发展和广泛应用，机器阅读理解能力有了大幅提高，但高性能往往需要用到大规模和高质量的训练数据，而对于机器阅读理解选择题任务，数据资源的匮乏一直是一个制约深度学习方法深入应用的关键性问题。

数据增强是扩充数据样本规模的一种有效方法，可以提高模型的泛化能力、提升模型的鲁棒性。目前，在计算机视觉和语音识别等领域中，针对数据不足现象提出的数据增强方法已成为提高神经网络模型性能的重要手段。

目前，针对机器阅读理解提出的数据增强方法还相对较少，专门针对阅读理解选择题答题的数据增强方法也还未见相关文献介绍。因此，探索适应于阅读理解题选择题的数据增强方法具有重要的意义。

发明内容

针对上述问题本发明提供了一种基于数据增强的阅读理解选择题答题方法。

为了达到上述目的，本发明采用了下列技术方案：

一种基于数据增强的阅读理解选择题答题方法，包括以下步骤：

S1、利用滑动窗口方法裁剪阅读理解选择题的背景材料；

S2、规范阅读理解选择题的背景材料、题干和选项数据格式；

S3、利用TF-IDF方法从词频角度提取答题候选句，得到答题材料句子集X；

S4、利用Bi-Attention从高维句向量角度提取答题候选句，得到答题材料句子集X；

S5、合并去重S3、S4所得的句子集X、Y，得到候选句集Z；

S6、利用适应于阅读理解选择题的EDA策略扩充候选句集Z，得到最终数据增强候选句集；

S7、将最终数据增强候选句集输入到BERT模型做阅读理解选择题答案预测。

进一步，所述步骤S1中利用滑动窗口方法裁剪阅读理解选择题的背景材料，具体步骤为：

S101、定义一篇文章P的字数为n，裁剪后的文章子片段为{p₁，p₂，…，p_m}，其中每个子片段p_i的字符数不超过512；