[发明专利]法律意图搜索方法、法律意图搜索装置和电子设备

权利要求书

1.一种法律意图搜索方法，其特征在于，包括：

通过法律意图分类器的知识层基于法律知识图谱对查询请求进行知识注入和句树转化；

通过所述法律意图分类器的嵌入层将所述句树转化为嵌入表示；

通过所述法律意图分类器的可视层控制所述查询请求中的词和来自法律知识图谱中的词的可视化程度，以及

通过所述法律意图分类器的掩码转换器层根据可视化程度信息控制转换模型中的自注意力区域以获得法律意图搜索结果；

其中，通过所述法律意图分类器的掩码转换器层根据可视化程度信息控制转换模型中的自注意力的区域以获得法律意图搜索结果，包括：

通过所述法律意图分类器的掩码转换器层根据可视化程度信息控制转换模型中的自注意力的区域以获得初始法律意图结果；以及

通过Softmax对所述初始法律意图结果进行意图分类以获得所述法律意图搜索结果；

其中，所述意图分类包括多层分类结果，所述多层分类结果中的一层或多层分类结果由用户选择或指定；

其中，所述法律意图分类器通过训练得到，训练过程包括：

对获取的与法律领域相关的语料进行实体识别和关系抽取，以生成法律知识图谱；

基于法律知识图谱和预训练语料对所述法律意图分类器的预训练语言模型进行预训练；以及

基于训练语料对预训练完成的所述预训练语言模型进行分类训练，以生成所述法律意图分类器；

所述预训练语言模型为在BERT-wwm模型的基础上优化的模型；

在基于法律知识图谱对查询请求进行知识注入和句树转化之前，进一步包括：

对所述查询请求中的内容进行词典匹配和规则匹配；

按照先词典匹配、后规则匹配和然后所述法律意图分类器的顺序对查询请求进行法律意图识别。

2.根据权利要求1所述的法律意图搜索方法，其中，基于法律知识图谱和预训练语料对所述预训练语言模型进行预训练，包括：

通过所述预训练语言模型的知识层基于法律知识图谱对所述预训练语料中的语句进行知识注入和句树转化；

通过所述预训练语言模型的嵌入层将所述句树转化为嵌入表示；

通过所述预训练语言模型的可视化层设定给定语句中的词和新加入的词的可视化程度，新加入的词包括来自法律知识图谱中的词，以及

通过所述预训练语言模型的掩码转换器根据可视化程度信息设定转换模型中的自注意力的区域以获得预训练法律意图搜索结果。

3.根据权利要求2所述的法律意图搜索方法，其中，通过所述预训练语言模型的嵌入层将所述句树转化为嵌入表示，包括：

对所述句树进行词嵌入处理，以生成词嵌入表示；

对所述词嵌入表示进行位置嵌入处理，以生成位置嵌入表示；以及

对所述位置嵌入表示进行分词嵌入处理，以生成所述嵌入表示。

4.根据权利要求2所述的法律意图搜索方法，其中，通过所述法律意图分类器的可视层控制所述查询请求中的词和来自法律知识图谱中的词的可视化程度，包括：

响应于新加入的词为谓词，设定所述谓词为不可见；以及

响应于新加入的词为来自法律知识图谱中表示实体的词，设定新加入的词为可见。

5.根据权利要求1所述的法律意图搜索方法，其中，对所述查询请求中的内容进行词典匹配和/或规则匹配包括：

使用训练语料进行词典生成以获得法律词典；以及

使用所述法律词典对所述查询请求中的内容进行词典匹配。

6.根据权利要求1所述的法律意图搜索方法，其中，对所述查询请求中的内容进行词典匹配和/或规则匹配包括：

使用训练语料进行规则提取以获得法律规则；以及

使用所述法律规则对所述查询请求中的内容进行规则匹配。