[发明专利]一种机器阅读标注数据的生成方法和装置

说明书

本发明实施例提供了一种机器阅读标注数据的生成方法，该方法包括：获取第一人工对话日志，其中包含多轮问答对话语句；根据预先统计得到的高频答案语句集合，从多轮问答对话语句中确定出第一高频答案语句；对于多轮问答对话语句中位于第一高频答案语句之前的若干问题语句中的任意问题语句，根据第一高频答案语句与该任意问题语句之间的语义相似度，以及根据该两者之间的文本间隔距离，确定对应的总相关度；从若干问题语句中提取与第一高频答案的总相关度最高的问题语句，作为第一问题语句；根据第一人工对话日志、第一高频答案语句和第一问题语句，生成带有标注的机器阅读数据。

技术领域

本说明书一个或多个实施例涉及机器学习领域，尤其涉及一种机器阅读标注数据的生成方法和装置。

背景技术

机器阅读理解旨在教会机器像人类一样地理解文本，经过训练的机器阅读模型像人类读者一样，可以扫描文本并从文本中提取含义。机器阅读理解任务从可以回答经过一定编辑的文本中的简单问题,发展到从获取的大量数据中回答用户的实际问题。

而训练机器阅读模型的过程，往往需要大量的训练样本，包括带有标注数据的训练样本，这些标注数据的产生通常需要基于对训练样本的文本内容的理解。一般来讲，这些标注数据可以通过人工参与来获得，但是大量的训练样本需要的人工工作量也很大，这样就需要一种自动生成训练样本的标注数据的方法。

发明内容

本说明书一个或多个实施例描述了一种机器阅读标注数据的生成方法和装置，可以根据人工问答日志，结合对其中的问题语句和答案语句的语义相似度和文本距离的衡量，提取相关度最高的问题对，从而为人工问答日志自动生成标示，用于训练机器阅读模型，提高其文本阅读理解能力。

根据第一方面，提供一种机器阅读标注数据的生成方法，所述方法包括：获取第一人工对话日志，其中包含多轮问答对话语句；根据预先统计得到的高频答案语句集合，从所述多轮问答对话语句中确定出第一高频答案语句；对于所述多轮问答对话语句中位于所述第一高频答案语句之前的若干问题语句中的任意问题语句，根据所述第一高频答案语句与该任意问题语句之间的语义相似度，确定第一相关度；根据所述第一高频答案语句与该任意问题语句之间的文本间隔距离，确定第二相关度；根据所述第一相关度、所述第二相关度，确定对应的总相关度；从所述若干问题语句中提取与所述第一高频答案的总相关度最高的问题语句，作为与所述第一高频答案对应的第一问题语句；根据所述第一人工对话日志、所述第一高频答案语句和所述第一问题语句，生成带有标注的机器阅读数据。

在一个实施例中，所述高频答案语句集合通过以下统计方法得到,该统计方法包括:获取人工对话日志集,其中包括多个人工对话日志；确定所述多个人工对话日志中包含的各个答案语句在所述人工对话日志集中的出现频次，并根据所述出现频次从所述各个答案语句中挑选多个高频答案语句；以所述多个高频答案语句构成所述高频答案语句集合。

进一步，在一个例子中,所述统计方法还包括:在确定所述多个人工对话日志中包含的各个答案语句在所述人工对话日志集中出现的频次之前，对所述多个人工对话日志中包含的各个答案语句进行文本归一化，去除其中的问候语和特殊符号。

在另一个例子中，确定所述多个人工对话日志中包含的各个答案语句在所述人工对话日志集中的出现频次，包括:对所述各个答案语句进行聚类操作，得到多个答案类簇；对于每个答案类簇，将该答案类簇中每个答案语句的出现频次确定为，该答案类簇中所有答案语句在所述人工对话日志集中出现的原始频次之和。

在一种具体的实施方式中,所述聚类操作基于HDBSCAN算法。

根据一种实施方式,所述根据所述第一高频答案语句与该任意问题语句之间的语义相似度，确定第一相关度，包括：基于预先训练的BERT语言模型确定所述第一高频答案语句与该任意问题语句之间的语义相似度。

在一个实施例中,所述BERT语言模型通过以下方式训练得到：