[发明专利]文本处理方法、目标任务模型的训练方法和装置

权利要求书

1.一种文本处理方法，其特征在于，所述方法包括：

将指定领域下的待处理语义信息输入至语言模型中，输出与所述待处理语义信息相关联的增强文本数据；

基于所述增强文本数据，对所述指定领域下的文本集合进行文本增强；

其中，所述语言模型基于预设的第一样本集合训练得到；所述第一样本集合中的训练样本包括：所述指定领域下的样本语义信息，以及与所述样本语义信息相匹配的样本文本数据。

2.根据权利要求1所述的方法，其特征在于，所述待处理语义信息包括：意图名信息、意图问题信息、意图回答信息或话术信息中的一种或多种。

3.根据权利要求1所述的方法，其特征在于，所述样本语义信息包括：意图名信息、意图问题信息、意图回答信息或话术信息中的一种或多种；所述样本文本数据包括话术信息。

4.根据权利要求1所述的方法，其特征在于，所述语言模型具体通过下述方式训练得到：

基于所述第一样本集合确定目标训练样本；其中，所述目标训练样本包括：所述指定领域下的目标样本语义信息，以及与所述目标样本语义信息相匹配的目标样本文本数据；

将所述目标样本语义信息输入至初始模型中，得到输出结果；

基于所述输出结果和所述目标样本文本数据，确定损失值；基于所述损失值训练所述初始模型，直至所述初始模型收敛，得到语言模型。

5.根据权利要求4所述的方法，其特征在于，将所述目标样本语义信息输入至初始模型中，得到输出结果的步骤之前，所述方法还包括：

基于预设的第二训练集合，对所述初始模型进行预训练，得到预训练后的所述初始模型；其中，所述第二训练集合中的训练样本包括：与所述指定领域相关的多轮对话数据。

6.根据权利要求1所述的方法，其特征在于，所述指定领域下的文本集合包括所述第一样本集合中的样本文本数据；

所述基于所述增强文本数据，对所述指定领域下的文本集合进行文本增强的步骤，包括：将所述增强文本数据增加至所述指定领域下的文本集合中。

7.根据权利要求6所述的方法，其特征在于，将所述增强文本数据增加至所述第一样本集合中的样本文本数据中的步骤，包括：

确定目标数据；其中，所述目标数据包括所述待处理语义信息，或者与所述待处理语义相匹配的文本数据；

计算所述增强文本数据与所述目标数据的相似度，如果所述相似度达到预设的相似度阈值，将所述增强文本数据更新至所述第一样本集合的样本文本数据中。

8.一种目标任务模型的训练方法，其特征在于，所述方法包括：

响应于接收到目标任务所属领域下的待处理语义信息，将所述待处理语义信息输入至语言模型中，输出与所述待处理语义信息相关联的增强文本数据；其中，所述语言模型基于预设的第一样本集合训练得到；所述第一样本集合中的训练样本包括：所述目标任务所属领域下的样本语义信息，以及所述样本语义信息相匹配的样本文本数据；

基于所述增强文本数据，对所述目标任务所属领域下的文本集合进行文本增强；

基于增强后的所述文本集合，训练所述目标任务的任务模型，得到训练后的所述任务模型。

9.一种文本处理装置，其特征在于，所述装置包括：

第一输出模块，用于响应于接收到指定领域下的待处理语义信息，将所述待处理语义信息输入至语言模型中，输出与所述待处理语义信息相关联的增强文本数据；

第一增强模块，用于基于所述增强文本数据，对所述指定领域下的文本集合进行文本增强；

其中，所述语言模型基于预设的第一样本集合训练得到；所述第一样本集合中的训练样本包括：所述指定领域下的样本语义信息，以及与所述样本语义信息相匹配的样本文本数据。