[发明专利]一种LDA并行优化方法

摘要

本发明提供的是一种LDA并行优化方法。主要包括CO‑PLDA并行优化算法和基于高斯函数的词加权方法。通过采用齐普夫定律的通信优化策略和一种改进的词权重计算方法，在文本表示精度不受影响的前提下，提高文本的表示效率。本发明中提出的CO‑PLDA模型的计算时间和通信时间都要优于AD‑LDA，其中CO‑PLDA模型的通信开销约为AD‑LDA的20％，计算时间约为AD‑LDA的70％左右。可见，CO‑PLDA在不失文本表示精度的前提下，有效地提高了模型的文本表示效率，降低了模型并行的通信开销，同时也适当降低了模型的计算时间。通过实验证明了CO‑PLDA算法文本表示效果要比AD‑LDA更好。

主权项

一种LDA并行优化方法，其特征是：(1)将文档集X均匀划分到P台处理器上；(2)初始化计数，将相关计数nm(k)，nk(t)，nm，nk初始化置为0，将文档块中每篇文档中的每一个词随机赋予一个主题编号k；(3)设置模型迭代次数，在模型每次迭代过程中(4)对于每台处理器分别执行下述步骤；(5)全局参数复制给局部参数：(6)采用基于高斯函数的词加权方法对文档集中的词赋予一个权重值，使用吉布斯采样公式更新本地相关统计计数nm(k)，nk(t)，nm，nk；(7)循环结束；(8)等待所有处理器达到同步；(9)更新全局参数(10)直至达到终止条件，输出模型参数：文档‑主题概率分布θm,k和主题‑词概率分布