[发明专利]一种人工智能加速器的核函数编译方法和装置有效
申请号: | 202110812211.5 | 申请日: | 2021-07-19 |
公开(公告)号: | CN113467783B | 公开(公告)日: | 2023-09-12 |
发明(设计)人: | 文进辉;胡辰卜;景德 | 申请(专利权)人: | 中科曙光国际信息产业有限公司 |
主分类号: | G06F8/41 | 分类号: | G06F8/41;G06N3/08 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孔凡红 |
地址: | 266101 山东省青岛市*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 人工智能 加速器 函数 编译 方法 装置 | ||
1.一种人工智能加速器的核函数编译方法,其特征在于,包括:
获取人工智能加速器的目标源码文件,并对所述目标源码文件进行解析,以获取至少一个深度学习段落;其中,所述深度学习段落包括至少一个初始核函数,所述深度学习段落用于执行深度学习操作;
根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构,获取至少一个配置参数组,并根据所述至少一个配置参数组和所述至少一个初始核函数,获取至少一个配置核函数;
编译所述至少一个配置核函数,并获取所述至少一个配置核函数中运算速度最快的最优配置核函数。
2.根据权利要求1所述的方法,其特征在于,所述对所述目标源码文件进行解析,以获取至少一个深度学习段落,包括:
通过配置函数表获取与深度学习操作相关的至少一个目标接口函数;其中,所述配置函数表包括多个深度学习框架在各个编程语言中的接口函数;
根据所述至少一个目标接口函数,在所述目标源码文件中,获取至少一个深度学习段落。
3.根据权利要求2所述的方法,其特征在于,在通过配置函数表获取与深度学习操作相关的至少一个目标接口函数前,包括:
根据所述目标源码文件的文件类型,确定所述目标源码文件使用的目标编程语言,以及根据所述目标源码文件依赖的库名称,确定所述目标源码文件使用的目标深度学习框架;
所述通过配置函数表获取与深度学习操作相关的至少一个目标接口函数,包括:
根据所述目标编程语言类型和所述目标深度学习框架,通过配置函数表获取与深度学习操作相关的至少一个目标接口函数。
4.根据权利要求2或3所述的方法,其特征在于,在对所述目标源码文件进行解析,以获取至少一个深度学习段落后,还包括:
判断所述深度学习段落的段内参数,是否符合匹配的目标接口函数的参数要求;其中,所述参数要求包括参数数量要求和参数类型要求;
若所述深度学习段落的段内参数,不符合匹配的目标接口函数的参数要求,则标注当前深度学习段落存在语法错误,并发出语法错误报警;
所述根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构,获取至少一个配置参数组,包括:
若所述深度学习段落的段内参数,符合匹配的目标接口函数的参数要求,则根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构,获取至少一个配置参数组。
5.根据权利要求1所述的方法,其特征在于,在根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构,获取至少一个配置参数组前,还包括:
获取所述深度学习段落的输入参数的参数关联类型;其中,所述参数关联类型包括独立参数、设备关联参数和/或主机关联参数;
根据所述参数关联类型,获取与所述输入参数匹配的至少一个参数关联段落,并根据所述至少一个参数关联段落确定所述输入参数的输入参数结构。
6.根据权利要求1所述的方法,其特征在于,在获取人工智能加速器的目标源码文件前,还包括:
获取多个典型输入参数结构和多个典型硬件结构参数,并组成多个不同的典型参数组;其中,所述典型参数组包括一个典型输入参数结构和一个典型硬件结构参数;
根据多个所述典型参数组和多个典型初始核函数,获取各所述典型参数组对应的最优核函数性能参数;
所述根据所述人工智能加速器的硬件结构参数、核函数性能参数以及所述深度学习段落的输入参数结构,获取至少一个配置参数组,包括:
若获取到与所述人工智能加速器的硬件结构参数和所述深度学习段落的输入参数结构,匹配的目标最优核函数性能参数,则根据所述人工智能加速器的硬件结构参数、所述目标最优核函数性能参数以及所述深度学习段落的输入参数结构,获取配置参数组。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科曙光国际信息产业有限公司,未经中科曙光国际信息产业有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110812211.5/1.html,转载请声明来源钻瓜专利网。