[发明专利]一种基于分层架构的异构计算系统

权利要求书

1.一种基于分层架构的异构计算系统，其特征在于，所述系统包括物理层、计算层、算法层、逻辑层和应用层；

所述物理层由异构硬件设备及相应的设备驱动组成，用于为所述计算层、所述算法层、所述逻辑层和所述应用层提供计算资源；

所述计算层位于所述物理层之上，用于为所述算法层提供调用所述物理层中各异构硬件设备的计算引擎；

所述算法层位于所述计算层之上，用于为所述逻辑层和所述应用层提供算法服务，所述算法服务是基于训练好的算法模型进行功能封装得到的；

所述逻辑层位于所述算法层之上，用于为所述应用层提供业务逻辑处理服务；

所述应用层位于所述逻辑层之上，用于为用户平台提供业务接口，用于将所述逻辑层生成的业务结果推送到消息中间件。

2.根据权利要求1所述的系统，其特征在于，所述物理层包括GPU、MLU、TPU中的一种或多种。

3.根据权利要求1所述的系统，其特征在于，所述计算层采用线程池模式调用所述物理层中的计算资源，并采用多通道模式从多个任务队列分别获取计算子任务组合成计算任务进行处理。

4.根据权利要求1所述的系统，其特征在于，所述算法层还包括数据前处理服务和数据后处理服务；

所述数据前处理服务，用于在待识别数据输入所述计算层之前对待识别数据进行预处理；

所述数据后处理服务，用于对所述计算层返回的数据进行处理。

5.根据权利要求1所述的系统，其特征在于，所述逻辑层包括一个或多个业务逻辑处理模块，所述业务逻辑处理模块采用三级封装，分别为会话级、任务级以及工作级，这里，一个会话级包含多个任务级，一个任务级包含多个工作级。

6.根据权利要求1所述的系统，其特征在于，所述应用层为用户平台提供的业务接口包括任务操作接口、资源查询接口、数据预览接口、数据管理接口。