[发明专利]类脑计算机中脉冲神经网络在硬件上的运行部署方法在审
申请号: | 202210593127.3 | 申请日: | 2022-05-27 |
公开(公告)号: | CN115081587A | 公开(公告)日: | 2022-09-20 |
发明(设计)人: | 潘纲;金欧文;李莹;邓水光;吕攀;杨国青 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 杭州天勤知识产权代理有限公司 33224 | 代理人: | 曹兆霞 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算机 脉冲 神经网络 硬件 运行 部署 方法 | ||
本发明公开了一种类脑计算机中脉冲神经网络在硬件上的运行部署方法,包括:根据底层类脑计算硬件限制,将脉冲神经网络的神经元进行簇划分后,以簇作为节点,根据簇之间的有向脉冲连接关系确定节点之间的连边,以构建有向图;使用层次优先的拓扑排序算法对有向图进行节点排序,以得到节点序列;对底层类脑计算硬件的计算核心按照希尔伯特空间填充曲线的顺序进行标号,按照标号将节点序列中的每个节点以一对一的方式分配到计算核心上,以形成初步映射方案;基于初步映射方案,采用力引导图算法多次迭代优化映射方案,以得到最终映射方案;依据最终映射方案实现神经元到计算核心的映射分配。能够提升类脑硬件计算效率、降低计算功耗。
技术领域
本发明属于神经形态计算技术领域,具体涉及一种类脑计算机中脉冲神经网络在硬件上的运行部署方法。
背景技术
脉冲神经网络被称为第三代人工神经网络,以其“事件驱动”的核心特征与生物可解释性为亮点,正成为当下人工智能研究的一大热点。许多基于脉冲神经网络的机器学习应用已经被研究者们提出。
为高效研究与部署运行脉冲神经网络应用,许多神经形态计算芯片或是类脑计算硬件平台被设计并生产。这些新型类脑硬件架构各异,芯片制造工艺、底层实现原理也不尽相同。但是它们都遵循着相同的设计理念来部署运行脉冲神经网络应用,即:
1)使用大量专门类脑计算核心来并行模拟神经元动态。
2)使用高密度的片上网络组织方式实现计算核心之间的脉冲通信。
基于以上设计理念,类脑硬件可以实现高效率模拟运行脉冲神经网络应用。
为高效利用这些新型类脑硬件资源,需要将脉冲神经网络中的神经元映射到底层类脑硬件的计算核心上,而脉冲神经网络映射方案的优劣将极大地影响类脑硬件的运行效率与功耗。
不同于传统多核系统任务映射问题,针对基于传递脉冲完成推理的脉冲神经网络端计算过程的脉冲神经网络映射一般建模为约束条件下的多目标非线性规划问题,需同时考虑芯片内所有节点间脉冲传递的总功耗(也即通讯代价)、最长脉冲传输距离、通信路由堵塞程度、映射方案求解耗时等多种指标。
针对脉冲神经网络的图拓扑结构,映射算法一般分为两个阶段:1)对原脉冲神经网络先进行划分,重构拓扑结构;2)为每个网络分块分配绑定至物理计算核心。由于求解给定优化目标下的最优映射方案已经被证明是一个NP-Hard问题,如何在芯片的硬件约束下使用较短时间找到近似解是技术难点所在。另一需要解决的问题是映射算法的可扩展性,随着需要部署的脉冲神经网络规模的增大与底层芯片计算核心数量增加、核心性能增强,映射问题的搜索空间将呈指数级增长,因此映射优化算法需要具备极强的可扩展性以应对可能的超大规模脉冲神经网络模型映射问题。
工业界中目前的映射算法和框架种类丰富,但多数为针对特定类脑硬件进行的特定建模和优化算法设计,因此缺少可移植性。同时,目前已有的映射算法缺少可扩展性,在面对大规模网络映射问题时,要么无法在可接受时间内完成求解,要么获得的解的质量低下。
发明内容
鉴于上述,本发明的目的是提供一种类脑计算机中脉冲神经网络在硬件上的运行部署方法,通过空间填充曲线与力引导图寻找脉冲神经网络的神经元到底层类脑硬件的计算核心的最优映射方案。
为实现上述发明目的,实施例提供的一种类脑计算机中脉冲神经网络在硬件上的运行部署方法,包括以下步骤:
步骤1,根据底层类脑计算硬件限制,将脉冲神经网络的神经元进行簇划分后,以簇作为节点,根据簇之间的有向脉冲连接关系确定节点之间的连边,以构建有向图;
步骤2,使用层次优先的拓扑排序算法对有向图进行节点排序,以得到节点序列;
步骤3,对底层类脑计算硬件的计算核心按照希尔伯特空间填充曲线的顺序进行标号,按照标号将节点序列中的每个节点以一对一的方式分配到计算核心上,以形成初步映射方案;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210593127.3/2.html,转载请声明来源钻瓜专利网。