[发明专利]分批处理机器学习模型的输入有效
| 申请号： | 201680084418.2 | 申请日： | 2016-12-21 |
| 公开（公告）号： | CN108885571B | 公开（公告）日： | 2022-04-15 |
| 发明（设计）人： | 诺亚·菲德尔;克里斯托弗·奥尔斯顿;杰里迈亚·哈姆森 | 申请（专利权）人： | 谷歌有限责任公司 |
| 主分类号： | G06F9/54 | 分类号： | G06F9/54 |
| 代理公司： | 中原信达知识产权代理有限责任公司 11219 | 代理人： | 周亚荣;安翔 |
| 地址： | 美国加利*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于分批处理机器学习模型的输入。所述方法中的一种包括：接收请求流，每个请求识别相应的输入以供由第一机器学习模型处理；将来自每个请求的所述相应的输入添加到输入的第一队列以供由所述第一机器学习模型处理；在第一时间确定到所述第一时间时为止所述第一队列中的输入的计数等于或者超过最大批大小，并且作为响应：从到所述第一时间时为止所述队列中的所述输入生成第一成批输入，使得所述第一成批输入中的输入的计数等于所述最大批大小，并且提供所述第一成批输入以供由所述第一机器学习模型处理。 | ||
| 搜索关键词： | 分批 处理 机器 学习 模型 输入 | ||
【主权项】：
1.一种方法，所述方法包括：接收请求流，每个请求识别相应的输入以供由第一机器学习模型处理；将来自每个请求的所述相应的输入添加到输入的第一队列以供由所述第一机器学习模型处理；在第一时间确定到所述第一时间时为止所述第一队列中的输入的计数等于或者超过最大批大小，并且作为响应：从到所述第一时间时为止所述队列中的所述输入生成第一成批输入，使得所述第一成批输入中的输入的计数等于所述最大批大小，并且提供所述第一成批输入以供由所述第一机器学习模型处理；以及在第二时间确定(i)到所述第二时间时为止所述队列中的输入的计数小于所述最大批大小但是(ii)所述队列中的最旧输入比等待时间参数旧，并且作为响应：从到所述第二时间时为止所述队列中的所述输入生成第二成批输入，使得所述第二成批输入中的输入的计数小于所述最大批大小，并且提供所述第二成批输入以供由所述第一机器学习模型处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司，未经谷歌有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201680084418.2/，转载请声明来源钻瓜专利网。
