[发明专利]一种针对少样本公众健康问句的分类方法及系统

权利要求书

1.一种针对少样本公众健康问句的分类方法，其特征在于，包括：

步骤1.采集医疗领域数据；

步骤2.基于采集的数据，利用自监督学习方法进行基础模型的预训练得到预训练模型；

步骤3.获取健康查询数据作为样本，并对其中部分样本数据进行标注；

步骤4.基于预训练模型构造基于迁移学习的健康查询问句分类网络模型；

步骤5.利用标注后的样本训练所述健康查询问句分类网络模型；

步骤6.利用所述健康查询问句分类网络模型对未标注样本数据进行标注；

步骤7.利用已完成标注的样本数据对所述健康查询问句分类网络模型进行迭代训练，提升模型性能。

2.根据权利要求1所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述步骤1中具体是利用数据采集工具来获取网络上的公共健康医疗信息数据。

3.根据权利要求1所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述步骤2中进行基础模型的预训练前还包括构建预训练任务，并通过预训练任务从医疗领域数据中挖掘数据自身信息。

4.根据权利要求3所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述预训练任务包括基于上下文信息构造的预训练任务或基于时序信息构造的预训练任务或基于对比学习的方式构造的预训练任务。

5.根据权利要求1所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述步骤3中，样本数据标注的方法包含但不限于以下方法：采用人工标注的方法、采用辅助工具进行半自动标注的方法、采用基于规则和词典的方法对数据进行全自动标注的方法。

6.根据权利要求1所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述健康查询问句分类网络模型包括预训练模型模块、语义特征提取模块、分类模块。

7.根据权利要求6所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述语义特征提取模块由以下神经网络实现：卷积神经网络、循环神经网络或Transformer网络。

8.根据权利要求6所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述分类模块包含多标签分类模块和多类别分类模块。

9.根据权利要求1至8中任一所述的一种针对少样本公众健康问句的分类方法，其特征在于，所述步骤5中训练模型的方法包括基于半监督的学习方法或基于主动学习的迭代式训练方法。

10.一种针对少样本公众健康问句的分类系统，其特征在于，包括：

数据采集模块，用于采集医疗领域数据；

模型预训练模块，用于基于采集的数据，利用自监督学习方法进行基础模型的预训练得到预训练模型；

样本标注模块，用于获取健康查询数据作为样本并对其中部分样本数据进行标注；

分类模型构造模块，用于基于预训练模型构造基于迁移学习的健康查询问句分类网络模型；

模型训练模块，用于利用标注后的样本训练所述健康查询问句分类网络模型。