[发明专利]加速卡运行时系统及调度方法

权利要求书

1.一种运行时系统，其特征在于，面向主机插入加速卡设备，由配置有驱动层、运行时层的主机端和配置有资源管理模块、调度模块的设备端构成；

主机端的运行时层，由设备抽象、内存抽象、流抽象和执行器抽象组成，用于支撑主机端运行时层的调度模块，并对外提供运行时接口；

主机端运行时层的调度模块，维护若干个用以支持任务分发的流队列；

主机端的驱动层，用于执行设备参数获取、ipc操作、内存管理，事件管理、计时管理、同步管理，还用于对外提供驱动接口；

设备端的资源管理模块，用于管理加速卡设备上的功能部件，包括：多样的计算单元，存储单元等；资源管理模块能够查看、统计加速卡设备上各个部件的运行状态，并反馈给设备上的调度模块；

设备端的调度模块，用于接收来自资源管理模块的信息和主机端运行时层的调度模块流队列中的任务，并根据设备端的状态决策调度。

2.一种加速卡运行时系统的调度方法，其特征在于：基于权利要求1所述的加速卡运行时系统，包括以下步骤：

步骤1、运行时主机端的调度模块根据资源需求信息将任务发送至相应的运行时流队列中，并根据设备状态调度任务；

步骤2、任务执行过程中，设备端的资源管理模块实时向主机端反馈设备信息供决策；

步骤3、设备端的调度模块根据需要向主机端对应的运行时流队列提出任务请求；

步骤4、主机端的调度模块接收到设备端的任务请求后，根据请求种类将对应流队列中的第一个任务发送至设备端，并根据任务执行情况适时移出队列中的这个任务；

步骤5、当设备端接收到任务时，根据任务的信息决策任务的执行部件，并向后者调度任务。

3.根据权利要求1所述的运行时系统，其特征在于：所述运行时接口包括：事件接口、设备接口、内存接口、流接口、执行接口。

4.根据权利要求1所述的运行时系统，其特征在于：所述驱动接口包括：内存操作接口，事件操作接口，计时操作接口，同步操作接口。

5.根据权利要求1所述的运行时系统，其特征在于：所述功能部件包括：至少一种计算单元和存储单元。