[发明专利]用于深度学习应用的存储器带宽管理有效
申请号: | 201680034405.4 | 申请日: | 2016-06-23 |
公开(公告)号: | CN107735803B | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | R·A·小彼特纳;F·T·B·塞德 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 王英 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 在数据中心中,通过使用现场可编程门阵列(FPGA)或其他并行处理器,神经网络评估可以被包括以用于涉及图像或语音识别的服务。将来自外部存储器的加权的数据集提供给FPGA(或其他并行处理器)的存储器带宽限制可以通过以至少两个特征向量的批次对来自在FPGA(或其他并行处理器)处执行服务的多个核心的输入数据排队来管理。至少两个特征向量可以是来自相同数据流或来自不同数据流的至少两个观测向量。FPGA(或其他并行处理器)继而可以针对加权的数据集的每次加载对一批数据采取动作。 | ||
搜索关键词: | 用于 深度 学习 应用 存储器 带宽 管理 | ||
【主权项】:
一种执行神经网络过程的方法,所述方法包括:在现场可编程门阵列(FPGA)处接收一批输入数据以用于神经网络评估的加速处理,其中所述一批输入数据包括至少两个特征向量;利用来自外部存储器的用于所述神经网络评估的第一层权重集合来加载所述FPGA;以及在所述FPGA内将所述第一层权重集合应用到所述一批输入数据以生成针对所述神经网络评估的中间结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201680034405.4/,转载请声明来源钻瓜专利网。