[发明专利]深度玻尔兹曼机模型及短文本主题分类系统和方法

权利要求书

1.一种基于深度玻尔兹曼机模型对短文本进行主题挖掘的方法，其特征在于：由一层可见层和两层隐藏层组成，可见层和隐藏层包含若干随机二元单元，层与层之间存在连接，各层的节点内部相互独立，该方法包含以下步骤：

S1，对短文本进行建模，第一层表示可见的短文本数据，第一隐藏层表示短文本隐藏的主题；

S2，第二隐藏层对第一隐藏层进行优先级控制；

S3，模型训练，所述的模型训练采用含有双隐藏层的深度玻尔兹曼机模型对训练集的短文本数据进行建模，构建主题分类器，含有双隐藏层的深度玻尔兹曼机是一种生成式无向概率图模型，所述的模型训练包含预训练与正式训练；所述的模型训练为将训练集中的每个短文本数据看作是模型中的可见层，对文本数据进行训练，学习出相应的模型参数，构建一个主题分类器。

2.根据权利要求1的深度玻尔兹曼机模型对短文本进行主题挖掘的方法，其特征在于：所述的S3中所述的预训练包含以下步骤：

S301，初始化第二隐藏层；

S302，重构第一隐藏层；

S303，重构可见层；

S304，重构第一隐藏层；

S305，计算对比离散度；

S306，更新参数并返回到文本数据初始位置。

3.根据权利要求1的深度玻尔兹曼机模型对短文本进行主题挖掘的方法，所述的S3中所述的正式训练包含以下步骤：

S311，变分法重构第一隐藏层；

S312，变分法重构第二隐藏层；

S313，MCmC算法计算期望；

S314，更新参数并返回文本数据初始位置。