[发明专利]一种基于自监督学习的无监督机器阅读理解训练方法

摘要

本发明公开了一种基于自监督学习的无监督机器阅读理解训练方法，其步骤包括：1)对于语料库中的自然语言文本段落，首先查找该自然语言文本段落中符合设定条件的词或词组，并将其中的一个词或词组替换为设定符号；2)利用替换后的段落训练机器阅读理解模型；训练过程中，机器阅读理解模型根据段落中所述设定符号的上下文信息，从替换后的段落中定位一个连续的字符串填补所述设定符号所在位置。本发明能够利用语料库自身的信息，直接学习机器阅读理解所需的能力，而不需要任何人工标注的阅读理解数据，也不需要利用启发式规则人工合成训练数据，所训练模型鲁棒性高。