[发明专利]一种对模型进行线性组合的集成学习方法在审
| 申请号： | 201711461471.2 | 申请日： | 2017-12-28 |
| 公开（公告）号： | CN108197713A | 公开（公告）日： | 2018-06-22 |
| 发明（设计）人： | 刘思聪;潘嵘 | 申请（专利权）人： | 中山大学 |
| 主分类号： | G06N99/00 | 分类号： | G06N99/00 |
| 代理公司： | 广州粤高专利商标代理有限公司 44102 | 代理人： | 林丽明 |
| 地址： | 510275 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 表示数据 集成模型 集成学习 权重向量 线性组合 候选模型 数据集中 损失函数 梯度更新 预测结果 初始化 归一化 数据集 后向 收敛 标签 保存 重复 | ||
【权利要求书】：
1.一种对模型进行线性组合的集成学习方法，其特征在于：包括有以下步骤：
S1.获取所有候选模型对当前数据集的预测结果并保存下来；x表示数据集；
S2.初始化权重向量
S3.对进行归一化：
S4.计算集成模型
S5.从数据集中选取若干个数据(xi,yi)，然后分别计算各个H(xi)，其中yi表示数据xi的标签；
S6.计算各个H(xi)的损失函数L(H(xi),yi)的均值，然后根据计算的均值对权重向量进行后向梯度更新；
S7.重复步骤S5～S6直至集成模型收敛。
2.根据权利要求1所述的对模型进行线性组合的集成学习方法，其特征在于：所述步骤S5首先对每个权重的梯度进行求导：
其中L(H(x),y)表示各个H(xi)的损失函数L(H(xi),yi)的均值；
求取得到梯度后，利用梯度下降方法对权重进行后向梯度更新。
3.根据权利要求1所述的对模型进行线性组合的集成学习方法，其特征在于：所述利用到的梯度下降方法为随机梯度下降方法、迷你批量梯度下降方法、自适应矩估计Adam方法中之一。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中山大学，未经中山大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201711461471.2/1.html，转载请声明来源钻瓜专利网。
