[发明专利]一种用于评估与系统中的服务相对应的神经网络模型的方法及系统有效
申请号: | 201880013991.3 | 申请日: | 2018-02-08 |
公开(公告)号: | CN110352434B | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | E·S·钟;D·C·伯格;J·弗沃斯;K·奥恰洛夫 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/0499 | 分类号: | G06N3/0499;G06N3/0442;G06F9/48;G06N3/063;H03K19/17724 |
代理公司: | 北京世辉律师事务所 16093 | 代理人: | 李峥宇 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 提供了用于神经网络处理的系统和方法。提供了一种在系统中的方法,该系统包括经由网络互连的多个节点,其中每个节点包括多个片上存储器块和多个计算单元。该方法包括在服务激活时接收与神经网络模型相对应的N×M矩阵系数。该方法包括将与神经网络模型相对应的系数加载到多个片上存储器块中以供多个计算单元处理。该方法包括:无论是否有对多个片上存储器块的利用作为神经网络模型的评估的一部分,都在多个片上存储器块中维持与神经网络模型相对应的系数直到服务被中断或神经网络模型被修改或替换。 | ||
搜索关键词: | 一种 用于 评估 系统 中的 服务 相对 神经网络 模型 方法 | ||
【主权项】:
1.一种用于评估与系统中的服务相对应的神经网络模型的方法,所述系统包括经由网络互连的多个节点,其中每个节点包括多个片上存储器块和多个计算单元,所述方法包括:在服务激活时,将所述神经网络模型分区成分离的层,其中每个层包括与所述神经网络模型相对应的N×M矩阵系数,其中N是等于或大于8的整数,并且M是等于或大于8的整数;将与所述神经网络模型相对应的所述N×M矩阵系数加载到所述多个片上存储器块中,以用于由所述多个计算单元处理;以及无论是否有对所述多个片上存储器块的利用作为所述神经网络模型的评估的一部分,都在所述多个片上存储器块中维持与所述神经网络模型相对应的所述N×M矩阵系数,直到所述服务被中断或所述神经网络模型被修改或替换。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201880013991.3/,转载请声明来源钻瓜专利网。