[发明专利]数据处理器和数据处理方法有效
申请号: | 201810777693.3 | 申请日: | 2018-07-16 |
公开(公告)号: | CN110727462B | 公开(公告)日: | 2021-10-19 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F9/28 | 分类号: | G06F9/28;G06F9/30 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 200120 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 处理器 数据处理 方法 | ||
本公开提供了一种数据处理器和数据处理方法,其中,所述数据处理器包括:存储模块,其用于存储接收的网络模型数据,所述网络模型数据包括用于执行网络模型的运算操作的运算算子和运算数据;任务分配模块,其配置为利用预设算法为各所述运算算子分配第一标记或者第二标记,其中被分配第一标记的运算算子的运算难度大于被分配第二标记的运算算子的运算难度;运算模块,其包括至少一个大核运算单元和至少一个小核运算单元,并利用大核运算单元基于所述运算数据执行具有第一标记的运算算子,以及利用小核运算单元基于所述运算数据执行具有第二标记的运算算子。本公开实施例具有功耗小且成本低的特点。
技术领域
本公开涉及运算器件,特别涉及一种数据处理器、芯片、电子设备和数据处理方法。
背景技术
近年来随着计算机硬件性能的提升,深度学习算法在越来越多的领域中取得了广泛的应用。在图片分类、语音识别、机器翻译等领域中,深度学习算法(例如神经网络算法)是已知的效果最好的算法。但是不论在哪种设备上运行神经网络算法,都需要十分巨大的计算量,随之而来的高能耗、低能效比问题非常严重。在移动设备上能耗问题尤为突出,因为移动设备由电池供电,对设备功耗有严格的限制。这就使得在移动终端上运行深度学习算法成本太高。
发明内容
有鉴于此,本公开提出一种能够在满足网络模型的计算需求的同时还能降低设备功耗减少成本的数据处理器、芯片、电子设备和处理处理方法。
根据本公开的第一方面,提供了一种数据处理器,其,包括:
存储模块,其用于存储接收的网络模型数据,所述网络模型数据包括用于执行网络模型的运算操作的运算算子和运算数据;
任务分配模块,其配置为利用预设算法为各所述运算算子分配第一标记或者第二标记,其中被分配第一标记的运算算子的运算难度大于被分配第二标记的运算算子的运算难度;
运算模块,其包括至少一个大核运算单元和至少一个小核运算单元,并利用大核运算单元基于所述运算数据执行具有第一标记的运算算子,以及利用小核运算单元基于所述运算数据执行具有第二标记的运算算子。
在本公开实施例中,所述任务分配模块进一步配置为根据各运算算子分别在大核运算单元上运算和小核运算单元上运算的运算时间,为各运算算子分配第一标记或者第二标记;和/或
所述网络模型包括神经网络模型。
在本公开实施例中,所述任务分配模块进一步配置为基于各运算算子之间的逻辑关系建立有向图,该有向图的节点与各所述运算算子对应;
并配置为分别获取大核运算单元执行各运算算子的第一运算时间和小核运算单元执行各运算算子的第二运算时间;以及将所述第一运算时间作为各节点的延迟时间,利用关键路径算法确定第一关键路径,该第一关键路径上各节点对应的运算算子被分配第一标记。
在本公开实施例中,还包括存储分配模块,其配置为基于所述存储模块内的空闲存储空间为各所述网络模型数据分配存储地址,并且,在所述存储模块的空闲存储空间不足时,选择执行释放所述网络模型数据或者缓存所述网络模型数据。
在本公开实施例中,还包括直接内存访问模块,其分别与所述存储分配模块和存储模块连接,并用于将所述网络模型数据传输至存储模块进行存储,以及将所述运算模块的运算结果传输至内存。
在本公开实施例中,所述网络模型数据中还包括优先级信息,该优先级信息包括用户优先级和/或数据时效性,并且所述数据处理器还包括:
缓存模块,其配置为缓存所述各运算算子以及其对应的第一标记或者第二标记;
调度模块,其配置为根据所述网络模型数据中的优先级信息,控制所述运算模块执行所述缓存模块中优先级最高的运算算子。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810777693.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置