[发明专利]语义表示模型的训练方法、装置、设备和存储介质

权利要求书

1.一种语义表示模型的训练方法，包括：

基于句子获得锚样本，以及，基于所述句子的句法信息，获得正样本和负样本；

采用语义表示模型分别对所述锚样本、所述正样本和所述负样本进行处理，以获得锚样本语义表示、正样本语义表示和负样本语义表示；

基于所述锚样本语义表示、所述正样本语义表示和所述负样本语义表示，构建对比损失函数；

基于所述对比损失函数，训练所述语义表示模型；

其中，所述基于所述句子的句法信息，获得正样本和负样本，包括：

基于所述句子的句法信息，构造句法树；

获取所述句法树包含的子树对应的第一文本，将所述第一文本作为正样本；

基于所述子树中的词语，获取第二文本，所述第二文本包含所述词语且与所述子树对应的文本不同，将所述第二文本作为负样本。

2.根据权利要求1所述的方法，其中，还包括：

对所述句子进行依存句法分析，以获得所述句子的句法信息。

3.根据权利要求1所述的方法，其中，所述基于所述子树中的词语，获取第二文本，包括：

基于所述子树中的词语，在所述句子中选择词语连续，且词语个数与所述正样本包括的词语的个数相同的文本，作为第二文本。

4.根据权利要求1-3任一项所述的方法，其中，所述基于句子获得锚样本，包括：

将所述句子作为锚样本；或者，

将所述句子对应的句法树包含的子树中的词语，作为锚样本。

5.一种语义表示模型的训练装置，包括：

获取模块，用于基于句子获得锚样本，以及，基于所述句子的句法信息，获得正样本和负样本；

编码模块，用于采用语义表示模型分别对所述锚样本、所述正样本和所述负样本进行处理，以获得锚样本语义表示、正样本语义表示和负样本语义表示；

构建模块，用于基于所述锚样本语义表示、所述正样本语义表示和所述负样本语义表示，构建对比损失函数；

训练模块，用于基于所述对比损失函数，训练所述语义表示模型；

其中，所述获取模块具体用于：

基于所述句子的句法信息，构造句法树；

获取所述句法树包含的子树对应的第一文本，将所述第一文本作为正样本；

基于所述子树中的词语，获取第二文本，所述第二文本包含所述词语且与所述子树对应的文本不同，将所述第二文本作为负样本。

6.根据权利要求5所述的装置，其中，还包括：

分析模块，用于对所述句子进行依存句法分析，以获得所述句子的句法信息。

7.根据权利要求5所述的装置，其中，所述获取模块进一步具体用于：

基于所述子树中的词语，在所述句子中选择词语连续，且词语个数与所述正样本包括的词语的个数相同的文本，作为第二文本。

8.根据权利要求5-7任一项所述的装置，其中，所述获取模块具体用于：

将所述句子作为锚样本；或者，

将所述句子对应的句法树包含的子树中的词语，作为锚样本。

9.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-4中任一项所述的方法。