[发明专利]一种数据增强的方法和设备

权利要求书

1.一种数据增强的方法，其特征在于，包括：

基于与内容相关的中文专业数据对GPT2语言模型进行调整，以得到与所述内容相关领域的第一语言模型；其中，所述GPT2语言模型基于中文通用数据训练得到；

通过数据集对所述第一语言模型进行调整，以得到第二语言模型；所述数据集中的各数据包括所述内容与所述内容对应的类别；

在所述第二语言模型输入对应所述类别的前缀，得到多个对应所述类别的语料；

利用由所述数据集训练得到的分类模型对各所述语料进行评分，并基于所述评分筛选出的所述语料作为数据增强后的数据。

2.如权利要求1所述的一种数据增强的方法，其特征在于，

所述中文通用数据包括以下一个或多个的任意组合：中文百度百科数据、中文的新闻数据、中文的书籍数据。

3.如权利要求1所述的一种数据增强的方法，其特征在于，所述中文专业数据包括：中文医疗文献数据；

所述第一语言模型为医疗领域的语言模型。

4.如权利要求1所述的一种数据增强的方法，其特征在于，

所述“通过数据集对所述第一语言模型进行调整，以得到第二语言模型”包括：

将数据集中的各数据按照指定格式对内容与类别进行拼接，得到拼接数据；

将所述拼接数据输入所述第一语言模型，以对所述第一语言模型进行调整，得到第二语言模型。

5.如权利要求4所述的一种数据增强的方法，其特征在于，所述拼接数据为：

y₁SEPx₁EOSy₂SEPx₂EOS···y_nSEPx_n；

其中，y_i为所述类别；x_i为所述内容；SEP为所述内容与所述类别的分割符；EOS为一个实体对的数据的结束符号。

6.如权利要求1所述的一种数据增强的方法，其特征在于，

所述对应所述类别的前缀为：y_jSEP；

所生成的N个对应所述类别的语料为：

其中，y_j为类别。

7.如权利要求1所述的一种数据增强的方法，其特征在于，所述“基于评分筛选出的所述语料作为数据增强后的数据”，包括：

筛选出所述评分高于阈值的语料作为数据增强后的数据。

8.一种数据增强的设备，其特征在于，包括：

第一生成模块，用于基于与内容相关的中文专业数据对GPT2语言模型进行调整，以得到与所述内容相关领域的第一语言模型；其中，所述GPT2语言模型基于中文通用数据训练得到；

第二生成模块，用于通过数据集对所述第一语言模型进行调整，以得到第二语言模型；所述数据集中的各数据包括所述内容与所述内容对应的类别；

得到模块，用于在所述第二语言模型输入对应所述类别的前缀，得到多个对应所述类别的语料；

增强模块，用于利用由所述数据集训练得到的分类模型对各所述语料进行评分，并基于所述评分筛选出的所述语料作为数据增强后的数据。

9.如权利要求8所述的一种数据增强的设备，其特征在于，

所述中文通用数据包括以下一个或多个的任意组合：中文百度百科数据、中文的新闻数据、中文的书籍数据。

10.如权利要求8所述的一种数据增强的设备，其特征在于，所述中文专业数据包括：中文医疗文献数据；

所述第一语言模型为医疗领域的语言模型。