[发明专利]SOC智能网卡及任务调度方法

说明书

本发明公开了一种SOC智能网卡及任务调度方法，该SOC智能网卡包括主机通信模块和混合调度模块，主机通信模块用于与主机服务器通信以获取任务请求；混合调度模块包括FCFS调度核单元、DWRR调度核单元、监控单元和调度核选择单元；FCFS调度核单元用于接收并执行任务请求；DWRR调度核单元用于当在FCFS调度核单元上执行的任务的尾延迟超过第一尾延迟阈值时，接收来自FCFS调度核单元上的任务；监控单元检测任务的尾延迟是否超过第一尾延迟阈值或任务的尾延迟是否低于第二尾延迟阈值；调度核选择单元用于将在FCFS调度核单元上执行的尾延迟超过第一尾延迟阈值的任务分配到DWRR调度核单元中，将在DWRR调度核单元上执行的尾延迟低于第二尾延迟阈值的任务分配到FCFS调度核单元中。

技术领域

本发明涉及智能网卡应用技术领域，尤其是涉及一种SOC智能网卡及任务调度方法。

背景技术

现在数据中心服务器(主机服务器)通常会托管各种各样的应用程序，尤其是分布式应用程序和不同竞争的多租户应用程序。这些应用程序有着不同的卸载类型和不同的计算需求。更重要的是，计算模块对这些应用程序的执行行为也不相同。不同的卸载任务的执行时间可能会有一个数量级的差异，而且消耗主机服务器的周期的计算代价也不尽相同。数据中心的资源无序共享、多租户间的干扰以及突发的负载导致长尾延迟现象严重，从而严重影响了用户体验。

此外，不同应用程序造成的远程过程调用(Remote Procedure Call,RPC)的尾延迟(Tail Latency)也不相同，而产生高的尾延迟的原因主要有两个，一个是内存和缓存层次结构在关键路径上，这样会干扰不同程序间的内存访问，引发资源竞争；另一个是次优的调度。

现有技术中，存在把网络的功能卸载到基于FPGA的智能网卡上，例如ClickNP和亚马逊云。这种解决方案主要是采用传统的特定领域加速方法，把主机服务器的一些应用程序卸载到FPGA上进行执行。虽然这些应用程序具有一定的并行性和确定性，能够在FPGA上进行定制逻辑设计实现性能的提升，但是对于复杂的数据结构和算法的应用程序，使得它们无法在基于FPGA的智能网卡上实现，且实现周期长、难度大。

发明内容

本发明旨在至少解决现有技术中存在的技术问题之一。

为解决上述技术问题，本发明所采用的技术方案是提供了一种SOC智能网卡，包括：

主机通信模块，用于与主机服务器通信以获取任务请求；

混合调度模块，包括FCFS调度核单元、DWRR调度核单元、监控单元和调度核选择单元；所述FCFS调度核单元用于接收并执行所述任务请求；所述DWRR调度核单元用于当在所述FCFS调度核单元上执行的任务的尾延迟超过第一尾延迟阈值时，接收来自所述FCFS调度核单元上的任务，并生成DWRR调度队列；所述监控单元用于检测在所述FCFS调度核单元上执行的任务的尾延迟是否超过所述第一尾延迟阈值，以及用于检测在所述DWRR调度核单元上执行的任务的尾延迟是否低于第二尾延迟阈值；所述调度核选择单元用于将在所述FCFS调度核单元上执行的尾延迟超过所述第一尾延迟阈值的任务分配到所述DWRR调度核单元中，以及，用于将在所述DWRR调度核单元上执行的尾延迟低于所述第二尾延迟阈值的任务分配到所述FCFS调度核单元中。

在上述装置中，所述FCFS调度核单元上预先设置所述第一尾延迟阈值，所述第一尾延迟阈值指的是现有的智能网卡在FCFS调度算法下执行任务的尾延迟的统计值，并且该统计值服从μ+3σ的高斯分布。

在上述装置中，所述DWRR调度核单元上预先设置所述第二尾延迟阈值，所述第二尾延迟阈值指的是现有的智能网卡在DWRR调度算法下执行任务的尾延迟的统计值，并且该统计值服从μ+3σ的高斯分布。