[发明专利]一种概念增强表示与单向蕴含注意力的主观题自动阅卷神经网络模型

说明书

本发明公开了一种概念增强表示与单向蕴含注意力的主观题自动阅卷神经网络模型，结合双向长短时记忆神经网络BiLSTM和机器学习的条件随机场CRF的方法自动识别题目中的概念系列；通过多头注意力机制实现概念字嵌入向量序列对答案字嵌入向量序列的增强表示建模；并通过BiLSTM对答案上下文信息进行编码；通过一种单向注意力蕴含匹配的方式，估算出学生答案对参考答案的语义包含，进而在单向蕴含匹配向量的基础上聚集信息并进行学生答案得分区间的概率分布预测。包含概念提取层、答案表示层、概念增强表示层、上下文表示层、单向蕴含注意力层、聚集层和预测层。具有以下优点：无需额外的语义分析和人为规则；提高评卷的匹配精度；扩展评卷系统的自适应性与实用性。

技术领域

本发明涉及教育技术与计算机应用技术领域中的考试阅卷自动化，具体是一种概念增强表示与单向蕴含注意力的主观题自动阅卷神经网络模型。该模型将计算机作为工具，以随机输入的学生答案作为处理对象，通过神经网络实现端到端的主观题自动阅卷，可广泛应用于各个领域的主观题计算机自动阅卷系统中。

背景技术

考试试卷中的试题从答案组成的形式上，被普遍分为客观题与主观题两大类。客观题的特征为：答案以选项编号表示的单选题、多选题、判断题等试题。主观题的特征为：答案采用自然语言表示的简答题、名词解释和论述题等试题。由于单选题、多选题、判断题等客观题目的答案都是以选项编号表示，目前计算机对于此类题型进行自动阅卷时，只需将标准答案的选项编号与学生答案的选项编号进行简单的匹配运算，匹配成功则答案正确，该处理技术已经取得较好的成果。

但是，由于主观题不同于客观题，不仅需要采用自然语言表示答案，而且具有一定的主观性，允许学生在一定的范围内答题，因此答案往往不是唯一的，而且学生答题的方式会有多种形式。另一方面，教师在批阅试卷的时候，还可能会受到主观因素的影响，以及学生字体是否美观、卷面是否整洁等的影响，使得教师在评分时，出现不合理的加分或扣分现象，有失考试的公正性和公平性。采用主观题的计算机自动阅卷，既减轻了教师人工阅卷的劳动强度，又减少人为因素的影响，保证了阅卷的客观性、公正性，因此主观题计算机自动阅卷技术的研究，具有重要的意义。

然而，对主观题的答案，即采用自然语言表示的答案使用自动阅卷技术,如对简答题、名词解释和论述题等自动评分时，学生答案具有的多样性与随意性，且受到自然语言理解、模式识别等理论与技术瓶颈影响，目前还没有使用计算机对主观题进行自动阅卷的成熟技术。

目前在传统的计算机自动阅卷系统中，普遍采用关键字匹配技术进行主观题自动阅卷，即在答案中标注出若干关键字或关键词，将其与学生答案进行匹配，并根据匹配成功的多少对学生答案进行评分，由于自然语言的多样性与随意性，这种方法的评分准确率非常低。

为提高评卷的准确率，出现了一些基于句法分析与语义分析的主观题自动阅卷方法，这类评卷方法虽然可以在评卷过程中融入语义分析，提高了评卷的准确率，但由于句法分析自身的准确率不高，以及语义分析无法处理句子的时序性，这极大地限制了这类系统的应用范围与实用性。

随着基于神经网络的深度学习在自然语言中的广泛应用，目前出现了一些基于神经网络的主观题自动评卷的方法与系统，在评卷精度的提高与减化预处理方面取得了较好的成绩。这些方法普遍采用应用于文本匹配测量的神经网络技术，如通用的CNN、BiLSTM、交互匹配等。但是，主观题自动评卷与文本匹配测量是两种不同的应用场景，主观题自动评卷有着许多独有的特点，例如，试题文本中给出了答卷的概念序列，学生答案与参考答案之间是单向蕴含关系而非平等关系。因此，如何充分考虑主观题自动评卷的特点，构建出更高质量的评卷神经网络模型成为当前迫切需要解决的问题。

发明内容

本发明的目的是提供一种概念增强表示与单向蕴含注意力的主观题自动阅卷神经网络模型。