[发明专利]在线学习算法的并行化有效
申请号: | 201110184798.6 | 申请日: | 2011-06-23 |
公开(公告)号: | CN102298569A | 公开(公告)日: | 2011-12-28 |
发明(设计)人: | T·B·埃伦;O·伊萨科夫;陈伟柱;J·S·杜恩;T·I·博彻特;J·Q·坎德拉;T·K·H·格雷佩尔;R·赫布里希 | 申请(专利权)人: | 微软公司 |
主分类号: | G06F15/18 | 分类号: | G06F15/18 |
代理公司: | 上海专利商标事务所有限公司 31100 | 代理人: | 杨洁 |
地址: | 美国华*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明揭示了在线学习算法的并行化。提供了用于在在线学习算法的并行化中使用的动态批策略的方法、系统,和媒介。该动态批策略提供了以原始模型状态和经更新的模型状态之间的阈值级别差异为基础的、而非根据恒定或预定批大小的合并功能。该合并过程包括读取一批传入流数据,从合作处理器检索任何缺少的模型信任,并且在该批传入流数据上进行训练。重复各读取、检索和训练步骤,直到所测得的状态差异超过设定的阈值级别。根据各属性,为多个处理器中的每一个合并所测得的超过阈值级别的差异。合并的超过阈值级别的差异与原始部分模型状态组合以获得经更新的全局模型状态。 | ||
搜索关键词: | 在线 学习 算法 并行 | ||
【主权项】:
一种使用具有处理器、存储器和数据存储子系统的计算系统来动态地并行地更新多个处理器的计算机实现的方法,所述计算机实现的方法包括:根据部分分布方案将模型状态划分为多个部分模型(710);将部分原始模型状态的本地副本接收到多个处理器的每一个中(720);根据传入流数据的部分分布模型,在多个处理器之间划分所述传入流数据(730);由多个处理器中的每一个根据属性来串行地处理经划分的传入流数据,以达到多个部分当前模型状态(740);根据散度函数,为多个处理器中的每一个串行地确定部分原始模型状态与相应的部分当前模型状态之间的差异(750);根据各属性,合并多个处理器中的每一个所确定的超过阈值级别的差异(760);以及将所合并的超过阈值级别的差异与部分原始模型状态进行组合,以获得经更新的全局模型状态(770)。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软公司,未经微软公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201110184798.6/,转载请声明来源钻瓜专利网。
- 上一篇:具有低耗能模式的显示器
- 下一篇:从技术未知的管理命令到多个管理协议的转换