[发明专利]运算节点的拆分方法和装置、电子设备和存储介质在审
申请号: | 201910750828.1 | 申请日: | 2019-08-14 |
公开(公告)号: | CN110503199A | 公开(公告)日: | 2019-11-26 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 北京中科寒武纪科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/063 |
代理公司: | 11446 北京律和信知识产权代理事务所(普通合伙) | 代理人: | 姚志远;刘兴<国际申请>=<国际公布>= |
地址: | 100086 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 中央处理器 人工智能 处理器执行 计算机程序 电子设备 处理器 计算机可读存储介质 存储器存储 方法和装置 通信连接 存储器 申请 | ||
本申请提供了一种利用人工智能处理器执行任务的方法和装置、电子设备以及非瞬时性计算机可读存储介质;其中,电子设备包括中央处理器、人工智能处理器和存储器,人工智能处理器与中央处理器通信连接,并包括多个功能模块;存储器存储有计算机程序,当计算机程序被中央处理器执行时,使得中央处理器执行利用人工智能处理器执行任务的方法。
技术领域
本申请涉及计算机领域,具体涉及一种对神经网络模型中的运算节点进行拆分的方法和装置、电子设备和非瞬时性计算机可读存储介质。
背景技术
人工智能(Artificial Intelligence,缩写AI)是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,主要包括计算机实现智能的原理、制造类似于人脑智能的计算机,使计算机能实现更高层次的应用。
人工神经网络(Artificial Neural Networks,简写为ANNs)也简称为神经网络(NNs),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。
神经网络是当前机器学习领域中非常流行的算法。近年来,随着深度学习技术的快速发展,基于神经网络的模型和算法已经在许多领域取得了突破。例如,在语音技术、人脸识别、自动驾驶、机器翻译等领域,基于深度神经网络的算法研究越来越深入。
发明内容
基于此,本申请提供了一种对神经网络模型中的运算节点进行拆分的方法,包括:
确定神经网络模型中的关键路径;
根据人工智能处理器中与不同类型相匹配的功能模块的硬件并行度,将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点。
根据本申请的另一方面,提供了一种对神经网络模型中的运算节点进行拆分的装置,包括:
确定单元,确定神经网络模型中的关键路径;
拆分单元,根据人工智能处理器中与不同类型相匹配的功能模块的硬件并行度,将所述关键路径中的至少一个神经网络运算节点拆分为多个神经网络运算子节点。
根据本申请的另一方面,提供了一种电子设备,包括:
中央处理器;
人工智能处理器,与所述中央处理器通信连接,并包括多个功能模块;
存储器,存储有计算机程序,当所述计算机程序被所述中央处理器执行时,使得所述中央处理器执行如上所述的方法。
根据本申请的另一方面,提供了一种非瞬时性计算机可读存储介质,其上存储有计算机可读指令,当所述指令被处理器执行时,使得所述处理器执行如上所述的方法。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了人工智能处理器的一个示例性模型;
图2示出了神经网络模型示意图;
图3示出了根据本申请一个实施方式对神经网络模型中的运算节点进行拆分的方法的流程图;
图4示出了对神经网络运算节点进行拆分的示意图;
图5示例性地示出了对神经网络运算操作不同的拆分方式;
图6示出了根据本申请另一实施方式对神经网络模型中的运算节点进行拆分的方法的流程图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中科寒武纪科技有限公司,未经北京中科寒武纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910750828.1/2.html,转载请声明来源钻瓜专利网。