[发明专利]一种矩阵计算的方法、系统及编译器在审
申请号: | 202110589381.1 | 申请日: | 2021-05-28 |
公开(公告)号: | CN115407976A | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 许利霞;郭海涛;郑卫炎;杨仲凯;季晨鹏;刘洪广 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F8/30 | 分类号: | G06F8/30;G06F9/30 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 刘金玲 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 矩阵 计算 方法 系统 编译器 | ||
本申请公开了一种矩阵计算的方法、系统及编译器。该方法应用于矩阵计算的系统,该系统包括编译器和至少一个矩阵计算的硬件;该方法包括:编译器获取矩阵计算的源代码,源代码包括导语以及矩阵计算任务,导语用于指示生成所述矩阵计算任务的文件;编译器获取矩阵计算任务的编译类型;编译器根据编译类型从上述硬件中确定执行矩阵计算任务的目标硬件;编译器生成用于目标硬件执行矩阵计算任务的文件,并将该文件发送至目标硬件;目标硬件根据该文件执行矩阵计算任务。通过上述方法,用户可以选择硬件的编译类型,通过导语指示编译器生成目标硬件执行矩阵计算任务的文件,不必再由用户进行手动编程,降低了人工成本,有助于大规模的产品性能提升。
技术领域
本申请涉及计算机领域,尤其涉及一种矩阵计算的方法、系统及编译器。
背景技术
目前在高性能计算领域中,大量应用均涉及矩阵相乘等计算过程,为了进一步提高芯片的矩阵计算能力,各大芯片厂家提供了各种矩阵计算加速卡,从而提高芯片的浮点能力(即实数运算能力)。
虽然各种芯片厂家研发了配套使用的加速卡以提高芯片的矩阵计算能力,但在使用时,仍需要编程人员手动编程以实现调用加速卡的应用程序接口(applicationprogramming interface,API)。此外,不同厂家的加速卡所采用的编译类型也有所不同,进一步增加了编程人员编程的复杂度;而且,不同厂家的加速卡对矩阵计算的算法逻辑也不相同,为了使得各种加速卡能够配合使用,可能还需要编程人员对加速卡中原有的矩阵计算的算法代码进行替换。
目前,上述工作由编程人员人工编程以实现对各种加速卡进行调度的过程,工作繁琐、耗时长,且容易出错,不利于大规模生产。
发明内容
本申请实施例提供一种矩阵计算的方法、系统及编译器,用于实现对矩阵加速硬件的自动编程,以简化矩阵计算中用户的操作。
第一方面,本申请实施例提供一种矩阵计算的方法,该方法可以应用于矩阵计算的系统,该矩阵计算的系统包括编译器和至少一个用于矩阵计算的硬件;具体的,该方法包括:所述编译器获取矩阵计算的源代码,所述源代码包括导语以及矩阵计算任务,所述导语用于指示生成所述矩阵计算任务的文件;所述编译器获取所述矩阵计算任务的编译类型;所述编译器根据所述编译类型从所述至少一个用于矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件;所述编译器根据所述导语生成所述矩阵计算任务的文件,并将所述文件发送至所述目标硬件;所述目标硬件根据所述文件执行所述矩阵计算任务。
在本申请上述实施例中,编译器能够根据编译类型确定用于执行矩阵计算任务的硬件,从而自动根据该编译类型生成能够使得该硬件执行矩阵计算任务的文件。上述方案,为用户提供了便捷、普适的应用,因为用户只需要通过导语指示编译器生成目标硬件执行矩阵计算任务的文件,以及通过编译选项选择硬件的编译类型,例如选择A厂商提供的编译类型或B厂商提供编译类型。矩阵计算任务的编译类型确定之后,编译器即可自动根据用户的设置自动生成所需的文件,不必再由用户进行手动编程,简化了用户操作,降低了人工学习成本、时间成本,有助于大规模的产品性能提升。
在一种可能的实现方式中,所述编译器根据所述编译类型从所述至少一个矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件,包括:所述编译器根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件;或者,所述导语包括用于指示执行所述矩阵计算任务的硬件的指示信息,所述编译器根据所述指示信息和所述编译类型确定用于执行所述矩阵计算任务的目标硬件。在上述实现方式中,用户可以通过导语指定用于执行矩阵计算任务的目标硬件,以满足用户特定需求;在用户没有特定需要的情况下,用户也可以不指定,由编译器根据预设的策略自动选择执行矩阵计算任务的目标硬件,从而简化用户操作,实现矩阵计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110589381.1/2.html,转载请声明来源钻瓜专利网。