[发明专利]用于对概率分布进行建模的系统和方法

权利要求书

1.一种用于训练受限波尔兹曼机器(RBM)的方法，其中所述方法包括：

从第一组可见值生成RBM的隐藏层中的一组隐藏值；

基于生成的所述一组隐藏值来生成所述RBM的可见层中的第二组可见值；

基于所述第一组可见值和生成的所述一组可见值中的至少一个来计算一组似然梯度；

基于所述一组隐藏值和所述一组可见值中的至少一个，使用对抗模型来计算一组对抗梯度；

基于所述一组似然梯度和所述一组对抗梯度来计算一组复合梯度；以及

基于所述一组复合梯度来更新所述RBM。

2.根据权利要求1所述的方法，其中所述RBM的可见层包括由用于不同数据类型的多个子层组成的合成层。

3.根据权利要求1所述的方法，其中所述多个子层包括伯努利层、伊辛层、独热层、冯·米塞斯-费舍尔层、高斯层、ReLU层、修剪的ReLU层、学生-t层、序数层、指数层、以及合成层中的至少一个。

4.根据权利要求1所述的方法，其中所述RBM是深度波尔兹曼机器(DBM)，其中所述隐藏层是多个隐藏层中的一个。

5.根据权利要求4所述的方法，其中所述RBM是第一RBM，并且所述隐藏层是多个隐藏层中的第一隐藏层，其中所述方法还包括：

对来自所述第一RBM的隐藏层进行采样；

将来自所述第一RBM的可见层和隐藏层堆叠到向量中；

训练第二RBM，其中所述向量是所述第二RBM的可见层；以及

通过将权重从所述第一RBM和第二RBM复制到DBM来生成所述DBM。

6.根据权利要求1所述的方法，还包括：

接收对于患者的表型向量；

使用所述RBM生成疾病的时间进展；以及

基于生成的时间进展来治疗患者。

7.根据权利要求1所述的方法，其中所述可见层和隐藏层是针对第一时间实例的，其中所述隐藏层还连接到第二隐藏层，所述第二隐藏层并入了来自不同的第二时间实例的数据。

8.根据权利要求1所述的方法，其中所述可见层是包括多个不同的时间实例的数据的合成层。

9.根据权利要求1所述的方法，其中计算所述一组似然梯度包括执行吉布斯采样。

10.根据权利要求1所述的方法，其中所述一组复合梯度是所述一组似然梯度和所述一组对抗梯度的加权平均。

11.根据权利要求1所述的方法，还包括通过以下步骤来训练所述对抗模型：

基于真实数据来抽取数据样本；

基于来自所述RBM来抽取幻想样本；以及

基于所述对抗模型的区分所述数据样本和幻想样本的能力来训练所述对抗模型。

12.根据权利要求1所述的方法，其中训练所述对抗模型包括测量从真实数据或RBM抽取特定样本的概率。

13.根据权利要求1所述的方法，其中所述对抗模型是完全连接的分类器、逻辑回归模型、最近邻分类器、以及随机森林中的一个。

14.根据权利要求1所述的方法，还包括使用所述RBM生成目标群体的一组样本。

15.根据权利要求1所述的方法，其中计算一组似然梯度包括计算蒙特卡洛估计和平均场估计的凸组合。