[发明专利]AI处理器的仿真方法、装置、计算机设备及存储介质有效
申请号: | 202110669107.5 | 申请日: | 2021-06-17 |
公开(公告)号: | CN113128143B | 公开(公告)日: | 2021-09-28 |
发明(设计)人: | 魏斌 | 申请(专利权)人: | 北京燧原智能科技有限公司 |
主分类号: | G06F30/3308 | 分类号: | G06F30/3308;G06N20/00 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100191 北京市海淀区知春路23*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | ai 处理器 仿真 方法 装置 计算机 设备 存储 介质 | ||
1.一种AI处理器的仿真方法,其特征在于,包括:
获取与待测AI处理器匹配的基准测试操作流;基准测试操作流包括多个操作,各操作间具有设定的操作执行顺序;
根据各操作间的操作执行顺序建立依赖关系表,依赖关系表中分级记录操作间的依赖关系;后一分级中各操作的执行依赖前一分级中至少一个操作执行完成;查询所述依赖关系表,将基准测试操作流预切分为多个具有串行执行关系的父操作切片;
获取当前处理的目标父操作切片中包括的各目标操作,并获取依赖关系表中包括各目标操作的目标分级;统计各目标分级的分级数量,和/或每个目标分级中包括的目标操作的操作数量;根据分级数量,和/或操作数量,确定目标父操作切片能否切分为多个具有并行或串行执行关系的子操作切片;
若是,则将每个父操作切片切分为匹配的多个子操作切片,并将各子操作切片确定为新的父操作切片,否则,将所述父操作切片确定为目标操作切片,直至完成对全部父操作切片的处理;每个目标操作切片能够独立运行在一个处理器核心中;
将各目标操作切片分别部署在各处理器核心中,并通过各处理器核心并行仿真得到与每个目标操作切片分别对应的局部性能开销;
根据与每个目标操作切片分别对应的局部性能开销,回溯得到待测AI处理器针对基准测试操作流的总体性能开销。
2.根据权利要求1所述的方法,其特征在于,获取与待测AI处理器匹配的基准测试操作流,包括:
在基准测试集中选取基准测试,并根据待测AI处理器的处理器架构,生成与所选取的基准测试对应的基准测试操作流。
3.根据权利要求1所述的方法,其特征在于,根据各操作间的操作执行顺序建立依赖关系表,包括:
根据各操作间的操作执行顺序,确定与各操作分别对应的等待列表,等待列表中记录自身操作在执行前,需要等待执行完成的全部操作;
根据各操作的等待列表,建立所述依赖关系表。
4.根据权利要求3所述的方法,其特征在于,查询所述依赖关系表,将基准测试操作流预切分为多个具有串行执行关系的父操作切片,包括:
查询依赖关系表中仅包括单一操作的至少一个分级;
根据各所述单一操作在所述基准测试操作流中的位置,对所述基准测试操作流进行切分,得到多个具有串行执行关系的父操作切片。
5.根据权利要求3所述的方法,其特征在于,根据分级数量,和/或操作数量,确定目标父操作切片能否切分为多个具有并行或串行执行关系的子操作切片,包括:
如果确定分级数量唯一,且唯一的目标分级中包括多个目标操作,则确定能将目标父操作切片切分为多个具有并行执行关系的子操作切片;
将目标父操作切片切分为匹配的多个子操作切片,包括:
将所述目标父操作切片内的每个目标操作,分别切分为与所述目标父操作切片对应的一个子操作切片。
6.根据权利要求3所述的方法,其特征在于,根据分级数量,和/或操作数量,确定目标父操作切片能否切分为多个具有并行或串行执行关系的子操作切片,包括:
如果确定分级数量为多个,且至少一个目标分级中仅包括唯一目标操作,则确定能将目标父操作切片切分为多个具有串行执行关系的子操作切片;
将目标父操作切片切分为匹配的多个子操作切片,包括:
根据各所述唯一目标操作在所述目标父操作切片中的位置,将所述目标父操作切片切分得到多个子操作切片。
7.根据权利要求3所述的方法,其特征在于,根据分级数量,和/或操作数量,确定目标父操作切片能否切分为多个具有并行或串行执行关系的子操作切片,包括:
如果确定分级数量为多个,且每个目标分级内均包括多个目标操作,则确定能将目标父操作切片切分为多个具有并行执行关系的子操作切片;
将目标父操作切片切分为匹配的多个子操作切片,包括:
获取以最高分级级别的目标分级中的每个目标操作为起点操作;
根据各目标操作的等待列表,在下级的目标分级内的各目标操作中分别获取与每个起点操作具有直接或者间接依赖关系的各目标操作,形成多个子操作切片。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京燧原智能科技有限公司,未经北京燧原智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110669107.5/1.html,转载请声明来源钻瓜专利网。