[发明专利]AI处理器的仿真方法、装置、计算机设备及存储介质有效
申请号: | 202110669107.5 | 申请日: | 2021-06-17 |
公开(公告)号: | CN113128143B | 公开(公告)日: | 2021-09-28 |
发明(设计)人: | 魏斌 | 申请(专利权)人: | 北京燧原智能科技有限公司 |
主分类号: | G06F30/3308 | 分类号: | G06F30/3308;G06N20/00 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100191 北京市海淀区知春路23*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | ai 处理器 仿真 方法 装置 计算机 设备 存储 介质 | ||
本发明公开了AI处理器的仿真方法、装置、计算机设备及存储介质,包括:获取与待测AI处理器匹配的基准测试操作流;根据各操作间的操作执行顺序,将基准测试操作流切分为多个目标操作切片,每个目标操作切片能够独立运行在一个处理器核心中;将各目标操作切片分别部署在各处理器核心中,并通过各处理器核心并行仿真得到与每个目标操作切片分别对应的局部性能开销;根据与每个目标操作切片分别对应的局部性能开销,回溯得到待测AI处理器针对基准测试操作流的总体性能开销。本发明实施例的技术方案可以减少对AI处理器的仿真耗时,提高仿真效率。
技术领域
本发明实施例涉及仿真处理技术领域,尤其涉及AI处理器的仿真方法、装置、计算机设备及存储介质。
背景技术
随着芯片制造的工艺不断升级,人工智能(Artificial Intelligence,AI)处理器在单位晶圆面积上部署的算力密度越来越高,其可以承载的用来评估性能优劣的基准测试也越来越复杂。于此同时,随着AI应用的发展,AI处理器的单位面积上的逻辑设计密度不断增加,AI处理器进行基准测试的时间也在增加。
目前对AI处理器的性能进行仿真的方法主要包括以下三种:利用X86多核心服务器(Simulation)进行性能仿真,利用硬件仿真加速器(Emulation)进行仿真,以及利用真实AI处理器(Silicon)进行仿真。
其中,利用Simulation对AI处理器的性能进行仿真时,仿真时间可达到十几天甚至几十天,仿真效率较低;利用Emulation进行仿真时,仿真速度较快,但是硬件成本较高,对于AI处理器的研发人员来说,这种方式可实施性较差;真实AI处理器通常适用于对流片后的AI处理器进行仿真,虽然仿真速度较快,硬件成本也较低,但是对于AI处理器中存在的问题,这种方式没有机会去进行修改,实用性较差。
发明内容
本发明实施例提供一种AI处理器的仿真方法、装置、计算机设备及存储介质,可以减少对AI处理器的仿真耗时,提高仿真效率。
第一方面,本发明实施例提供了一种AI处理器的仿真方法,所述方法包括:
获取与待测AI处理器匹配的基准测试操作流;基准测试操作流包括多个操作,各操作间具有设定的操作执行顺序;
根据各操作间的操作执行顺序,将基准测试操作流切分为多个目标操作切片,每个目标操作切片能够独立运行在一个处理器核心中;
将各目标操作切片分别部署在各处理器核心中,并通过各处理器核心并行仿真得到与每个目标操作切片分别对应的局部性能开销;
根据与每个目标操作切片分别对应的局部性能开销,回溯得到待测AI处理器针对基准测试操作流的总体性能开销。
第二方面,本发明实施例还提供了一种AI处理器的仿真装置,该装置包括:
基准测试操作流获取模块,用于获取与待测AI处理器匹配的基准测试操作流;基准测试操作流包括多个操作,各操作间具有设定的操作执行顺序;
目标操作切片切分模块,用于根据各操作间的操作执行顺序,将基准测试操作流切分为多个目标操作切片,每个目标操作切片能够独立运行在一个处理器核心中;
局部操作仿真模块,用于将各目标操作切片分别部署在多核处理器中的各处理器核心中,并通过各处理器核心并行仿真得到与每个目标操作切片分别对应的局部性能开销;
总体性能开销回溯模块,用于根据与每个目标操作切片分别对应的局部性能开销,回溯得到待测AI处理器针对基准测试操作流的总体性能开销。
第三方面,本发明实施例还提供了一种计算机设备,该计算机设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京燧原智能科技有限公司,未经北京燧原智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110669107.5/2.html,转载请声明来源钻瓜专利网。