[发明专利]应用于随机点模式有限混合模型吉布斯参数采样方法

说明书

本发明涉及一种应用于随机点模式有限混合模型吉布斯参数采样方法。本发明方法首先构建随机点模式有限混合模型和构建随机点模式似然函数，然后构建随机点模式有限混合模型参数先验分布，根据模型参数先验分布，得到模型参数的后验分布；最后采用吉布斯采样算法和贝叶斯信息准则相结合的采样算法，估计混合分布中分布元个数以及模型参数值。本发明相较于传统FMM仅描述了数据的特征随机性，随机点模式分布函数还描述了数据的基数随机性；在RPP‑FMM的基础上采用Gibbs采样算法采样样本数据获取模型参数，避免了参数估计可能一直陷入局部极值点，不能得到全局极值点的局面。本发明方法有效提高了建模精度和参数估计精度。

技术领域

本发明属于模式识别技术领域，具体涉及应用于随机点模式有限混合模型的Gibbs(吉布斯)参数采样方法。

背景技术

有限混合模型(FMM)是一种统计建模工具，提供了一种用简单密度模拟复杂密度的有效的数学方法。有限混合模型的核心问题有两个：混合分量密度的选择和混合模型的参数估计。高斯混合模型凭借其形式简单、计算方便等特点，已成为目前比较普遍应用的有限混合模型。然而我们得到的实际数据大多具有非线性、非高斯特性，并且局限于高斯分布的拟合能力，导致高斯混合模型不能完全、准确、有效地描述这些复杂数据。根据混合模型个数，分布参数的未知性可以将关于有限混合模型问题归结为有监督学习，无监督学习和非参数模型问题。目前主流的学习算法分为确定性学习算法和非确定学习算法。确定性学习算法以期望最大化(EM)算法为代表的极大似然估计算法，非确定学习算法以Markov链为代表的贝叶斯(Bayes)学习算法为主。FMM的研究主要包括两个方面：混合模型的分布元个数和相应的模型参数估计。实际获得数据大多具有非高斯特性，通常采用高斯混合模型进行近似。有限混合模型的参数估计可以通过参数的学习算法来获得。

值得一提的是在传统FMM分布中均假设各个数据点之间是独立的，因此，数据似然函数模型是所有数据点似然函数的乘积获得，这种数据似然函数无法刻画数据基数(数据点个数)的随机特性，甚至在某些情况下，会产生矛盾的估计结果。

发明内容

本发明的目的就是提供一种应用于随机点模式有限混合模型Gibbs参数采样方法。

为了刻画数据基数(数据点个数)的随机特性，本发明方法引入了随机点模式有限混合模型(RPP-FMM)。相较于传统FMM仅描述了数据的特征随机性，随机点模式分布函数还描述了数据的基数随机性。以往的相关研究中提出采用EM算法和Gibbs采样算法解决相关问题，EM算法容易受初值影响。另外，由于EM算法属于一种确定性的算法，对于给定的初值，参数估计可能一直陷入局部极值点，不能得到全局极值点。Gibbs采样算法属于随机采样算法，初值的影响相对较小。

本发明提出了一种基于随机点模式有限混合模型(RPP-FMM)的Gibbs参数采样算法，基本思想是利用构造随机点模式的马尔可夫链获取模型参数，进一步提高建模精度和参数估计精度。

本发明方法具体是：

步骤(1).构建随机点模式有限混合模型；

具有K个随机源的点模式混合模型表示为：

f(X_n|Θ)＝π₁f(X_n|θ₁)+π₂f(X_n|θ₂)+…+π_Kf(X_n|θ_K)；X_n表示第n个随机点模式观测数据，n＝1,2,…,N，N为随机点模式观测数据数量，表示R的有限集空间，R为实数空间；