[发明专利]基于多级语义匹配的检索方法、装置、计算机设备和存储介质

说明书

本发明公开了一种基于多级语义匹配的检索方法、装置、计算机设备和存储介质，包括：对检索语句和候选文档进行语义特征提取，得到检索语句的语句表征向量和候选文档的文档表征向量；依据语句表征向量和文档表征向量确定检索语句与每个候选文档的相关性，以进行初级语义匹配，并依据初级语义匹配结果筛选候选文档组成预筛选文档集；针对预筛选文档集中每个候选文档，利用LDA主题模型分别计算每个候选文档和检索语句的主题信息，利用BERT预训练模型提取检索语句与每个候选文档的结合语义信息，结合两个主题信息和结合语义信息进行二级语义匹配，依据二级语义匹配结果返回检索语句对应的候选文档的检索排序，该方法可以提高检索效率和准确率。

技术领域

本发明涉及自然语言处理、语义解析和文本匹配等技术领域，具体来涉及一种基于多级语义匹配的检索方法、装置、计算设备和存储介质。

背景技术

随着互联网的快速发展，网络中的信息也呈指数形式飞速增长，这些海量数据为用户提供了一个数据丰富查询数据源。通常人们会使用各种搜索引擎辅助查找所需要的相关信息，然而在很多垂直领域中搜索引擎的检索效果并不好，如医疗、教育、金融等，由于这些领域的专业性和特殊性，搜索引擎返回给用户的大量结果中与检索相关性较大的较少，用户还需要在查询结果中再次筛选，此时搜索引擎往往无法给出用户满意的检索结果，无法很好的满足用户智能化检索的请求，因此研究一种适用于特定垂直领域的智能检索方法迫在眉睫。

现有搜索引擎在搜索时仍然主要使用关键字匹配、PageRank算法和倒排索引等经典算法作为检索的依据，首先对用户输入的检索语句进行分词等自然语言处理方法，将检索语句解析成多个用户检索意图关键词，并对关键词依据已有词库进行错误纠正和相似词扩展，然后再进行联合查询，即在创建的文档索引中进行关键词匹配，以多个关键词命中数作为倒排索引的依据，并将相关的网页返回给用户。这样的检索方法在大多数场景下都能向用户返回满意的结果，但是在一些垂直领域中由于没有进行对文本进行深层的语义解析，很难理解用户的查询意图，效果较差。

在很多自然语言处理任务中，预训练模型得到了广泛的应用。比如最近兴起的Google提出来的BERT预训练模型，通过对海量文本数据进行无监督学习，通过MaskedLanguage Model(掩码语言模型)和Next Sentence Prediction(下个语句预测)这两个任务来对模型参数进行预训练，然后根据具体的下游任务的数据对模型参数进行微调。预训练语言模型的成功，证明了可以从海量的无标注文本中学到潜在的语义信息，而无需为每一项下游NLP任务单独标注大量训练数据。因此，可以通过引入预训练模型来提升对自然语言的特征提取能力。

另外，在候选文档数量特别多的情况下，比如几百万到上亿的规模，如果对检索语句和所有的候选文档来进行语义匹配往往是不现实的，这样的检索方式计算量很大且耗时很长，不符合现实需求。因此，海量候选文档的检索除了要考虑到检索精度，还需要考虑到检索时间。

海量文档的智能语义检索不需要直接对检索语句和候选文档进行精确语义匹配，结合预训练模型对海量候选文档进行初步筛选，然后对再对检索语句和预筛选文档进行精确的语义匹配，平衡检索效率和检索精度，最后返回最符合用户意图的检索结果。

发明内容

针对上述问题，本发明提供了一种基于多级语义匹配的检索方法和装置，以提高检索效率和准确率。

为实现上述发明目的，本发明实施例提供了一种基于多级语义匹配的检索方法，包括以下步骤：

语义特征解析：对检索语句和候选文档进行语义特征提取，得到检索语句的语句表征向量和候选文档的文档表征向量；

初级语义匹配和预筛选：对采用注意力机制依据语句表征向量和文档表征向量确定检索语句与每个候选文档的初级语义匹配结果，并依据初级语义匹配结果筛选候选文档组成预筛选文档集；