[发明专利]一种融合迁移学习与主题模型的文本分类方法及系统

权利要求书

1.一种融合迁移学习与主题模型的文本分类方法，其特征是，包括：

建立共享主题知识的迁移主题模型Tr-SLDA；

模型训练过程中在源域与目标域数据各自类别标签的约束下，将其采样到同一主题空间中，有效的缓解由于目标域与源域数据不满足同分布而导致的“负迁移”现象；

在训练模型Tr-SLDA完成后，测试文档的潜在主题空间是目标领域的文档集D^t和训练文档集D^s共享的主题空间T，对测试文档的每个词的隐含主题进行采样；

将待测文本输入到训练完成的Tr-SLDA模型，基于Tr-SLDA迁移主题模型利用Tr-SLDA-TC文本分类方法来预测待测文本类别。

2.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，Tr-SLDA中待估计的参数有文档-主题概率分布、主题-词概率分布、源域的类别-主题概率分布和目标域的类别-主题概率分布。

3.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，Tr-SLDA迁移主题参数估计时，采用Tr-SLDA-Gibbs算法。

4.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，在初始化词的主题时加入文档类别的先验知识，将文档的类别标号作为词的初始化主题，采样过程中对来自不同域文档的词采用不同的采样策略，在确定了每个词的隐含主题后，θ,δ和μ，通过统计频次计算得到；

Tr-SLDA主题模型的参数为θ,δ和μ，其中θ表示文档-主题分布，表示主题-词分布，δ表示主题-Λ^t类之间的隐含语义分布，μ表示主题-Λ^s类之间的隐含语义分布，θ,δ和μ服从Dirichlet分布。

5.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，Tr-SLDA-Gibbs算法对来自源域特有类别、目标域特有类别和源域与目标域交叉类别分别采取不同的采样策略，将源域与目标域在类别标签的约束下采样到同一主题空间。

6.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，将源域与目标域在类别标签的约束下采样到同一主题空间，计算时：

其中，z_-i表示剔除向量z的第i项，y_-m表示剔除向量y的第m项，表示剔除z的第i项(即第i个词w_i＝t)主题k分配给词t的次数，β_t表示词t的Dirichlet先验，表示剔除z的第i项，主题k分配给文档m中单词的次数，α_k表示主题k的Dirichlet先验。

7.如权利要求1所述的一种融合迁移学习与主题模型的文本分类方法，其特征是，对来自不同域的文档采用不同的采样方式，将源域与目标域在其各自的类别标签的约束下采样到同一主题空间，有效利用与目标任务不同但相关的辅助源域数据进行辅助建模。

8.一种计算装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征是，所述处理器执行所述程序时实现以下步骤，包括：

建立共享主题知识的迁移主题模型Tr-SLDA；

模型训练过程中在源域与目标域数据各自类别标签的约束下，将其采样到同一主题空间中，有效的缓解由于目标域与源域数据不满足同分布而导致的“负迁移”现象；

在训练模型Tr-SLDA完成后，测试文档的潜在主题空间是目标领域的文档集D^t和训练文档集D^s共享的主题空间T，对测试文档的每个词的隐含主题进行采样；

将待测文本输入到训练完成的Tr-SLDA模型，推断出待测文本的主题。

提出基于Tr-SLDA迁移主题模型的Tr-SLDA-TC文本分类方法来进行预测待测文本类别。