[发明专利]一种泛化处理的方法、装置、设备和计算机存储介质

权利要求书

1.一种泛化处理的方法，包括：

通过将字面匹配方式、语义匹配方式和查询项query改写方式，分别获得的query集合进行取并集的方式，确定query库中与所请求query相似的候选query集合；

从所述候选query集合中逐一取出query与所请求query构成query对；将query对进行拼接后输入query匹配模型；所述query匹配模型的向量表示层对拼接后的query对进行编码后，输出拼接后的query对对应的向量表示；将该向量表示经过分类器得到query对是否为相关query的分类结果；依据分类结果确定所述候选query集合中所述所请求query对应的泛化query；

其中所述query匹配模型基于交叉注意力模型预先训练得到；

所述语义匹配方式包括：利用预先训练得到的双塔模型中的向量表示层，确定所述所请求query的特征向量表示；通过向量检索的方式，检索所述query库中特征向量表示与所述所请求query的特征向量表示之间的相似度满足预设相似度要求的query。

2.根据权利要求1所述的方法，其中，所述通过字面匹配方式、语义匹配方式和query改写方式，确定查询项query库中与所请求query相似的候选query集合包括：

通过字面匹配方式，确定所述query库中与所请求query字面相似的第一query集合；

通过语义匹配方式，确定所述query库中与所请求query语义相似的第二query集合；

通过query改写方式，确定所述query库中所请求query的改写query构成第三query集合；

将所述第一query集合、第二query集合和第三query集合的并集确定为所述候选query集合。

3.根据权利要求1所述的方法，其中，所述双塔模型采用如下方式预先训练得到：

获取第一训练数据，所述第一训练数据包含同一query对应的相关query 和不相关query；

将所述第一训练数据作为双塔模型的输入，训练所述双塔模型；训练目标包括：最大化第一相似度和第二相似度之间的差值，所述第一相似度为所述双塔模型的向量表示层输出的所述同一query的特征向量表示与相关query的特征向量表示之间的相似度，所述第二相似度为所述双塔模型的向量表示层输出的所述同一query的特征向量表示与不相关query的特征向量表示之间的相似度。

4.根据权利要求1或2所述的方法，其中，所述query改写方式包括：

将所述所请求query输入预先训练得到的query改写模型，获取所述query改写模型输出的改写query；

其中所述query改写模型基于序列到序列Seq2Seq模型预先训练得到。

5.根据权利要求4所述的方法，其中，所述query改写模型采用如下方式预先训练得到：

获取第二训练数据，所述第二训练数据包含样本query及其对应的改写query；

将所述样本query作为预训练得到的Seq2Seq模型的输入，将所述改写query作为所述Seq2Seq模型的目标输出，进一步训练所述Seq2Seq模型。

6.根据权利要求1所述的方法，其中，所述query匹配模型采用如下方式预先训练得到：

获取第三训练数据，所述第三训练数据包括样本query对，并标注样本query对是相关query或不相关query；

将所述样本query对进行拼接后输入交叉注意力模型，将对所述样本query对的标注作为所述交叉注意力模型对所述样本query对的目标分类结果。