[发明专利]一种基于数据流的神经网络多引擎同步计算系统有效
申请号: | 202010574436.7 | 申请日: | 2020-06-22 |
公开(公告)号: | CN111752689B | 公开(公告)日: | 2023-08-25 |
发明(设计)人: | 焦黎;李远超;蔡权雄;牛昕宇 | 申请(专利权)人: | 深圳鲲云信息科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F13/28;G06N3/04 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 潘登 |
地址: | 518048 广东省深圳市福田区福保*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 数据流 神经网络 引擎 同步 计算 系统 | ||
1.一种基于数据流的神经网络多引擎同步计算系统,其特征在于,包括:
至少两个计算引擎,每个所述计算引擎包括至少两个计算模块和至少一个缓存模块,所述计算模块用于计算所述缓存模块或上一层计算模块提供的输入计算图以得到输出计算图;
至少一个同步模块,每个所述同步模块对应于每个所述计算引擎中同一层的所述缓存模块,所述同步模块用于监测同一层的所述缓存模块存储的输入计算图的数据量,在每个输入计算图的数据量都达到对应预设值时控制每个所述缓存模块将存储的输入计算图输入给下一层计算模块。
2.根据权利要求1所述的系统,其特征在于,所述至少一个缓存模块还包括首层缓存模块,所述至少一个同步模块还包括首层同步模块,所述首层同步模块用于监测所述首层缓存模块存储的输入计算图的数据量,在每个输入计算图的数据量都达到对应预设值时控制所述首层缓存模块将存储的输入计算图输入给第一层计算模块。
3.根据权利要求2所述的系统,其特征在于,还包括:
首层共享模块,用于监测任意一个所述计算引擎的所述首层缓存模块存储的输入计算图的数据量,在所述输入计算图的数据量达到对应预设值时控制全部所述计算引擎的第一层计算模块开始计算。
4.根据权利要求2所述的系统,其特征在于,所述至少一个同步模块还包括底层同步模块,所述底层同步模块用于监测最后一层计算模块得到的输出计算图的数据量,在每个输出计算图的数据量达到对应预设值时控制每个最后一层计算模块将得到的输出计算图输出。
5.根据权利要求1所述的系统,其特征在于,所述同步模块包括计数器,所述计数器用于监测所述缓存模块存储的输入计算图的数据量。
6.根据权利要求5所述的系统,其特征在于,所述计数器的数量和所述计算引擎的数量相同。
7.根据权利要求4所述的系统,其特征在于,还包括:
直接内存存取器,用于发送输入计算图至所述首层缓存模块,还用于接收最后一层计算模块输出的输出计算图。
8.根据权利要求7所述的系统,其特征在于,还包括:
片外存储器,用于给所述直接内存存取器发送输入计算图,还用于接收所述直接内存存取器发送的输出计算图。
9.根据权利要求8所述的系统,其特征在于,还包括:
上位机,用于在接收到用户的计算指令后控制所述片外存储器开始发送输入计算图给所述首层缓存模块,同时控制所述同步模块开始监测所述缓存模块存储的输入计算图的数据量。
10.根据权利要求1所述的系统,其特征在于,所述缓存模块为FIFO存储器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳鲲云信息科技有限公司,未经深圳鲲云信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010574436.7/1.html,转载请声明来源钻瓜专利网。