[发明专利]基于智能网卡卸载的数据中心多应用QoS保障系统及方法

说明书

本发明公开了一种基于智能网卡卸载的数据中心多应用QoS保障系统及方法，所述系统包括：代理模块，用于在发送方应用与接收方应用之间建立网络连接，对发送方和接收方应用的消息进行代理转发；资源分配模块，用于为每个网络连接分配网络带宽资源；资源管理模块，用于设置每个网络通信线程的总的发送窗口来控制其分配的网络带宽；发送控制模块，用于判断I/O请求的消息类型，并收集各个应用连接中的信息，并基于该信息控制不同类型的消息的发送，其中消息类型是发送方应用依据应用提交请求时的数据量大小或优先级而标记的。该系统在复杂的大规模多应用数据中心场景下，能够减少真实的网络连接个数，并且能够保障各类应用的性能指标。

技术领域

本发明涉及数据通信领域，具体涉及一种在数据中心多应用场景下，基于智能网卡卸载保障应用QoS的系统及方法。

背景技术

数据中心作为当前的一种基础设施服务，支撑着大量的互联网应用，其中包括分布式存储、高性能计算及大数据处理等。这一系列应用均需要超高的网络吞吐和极低的时延才能够保障应用的极致性能，例如对于CloudSAN这类新兴的分布式存储服务，要求每个存储节点保障5-10微秒的网络时延和40-100Gbps的网络吞吐才能够支持良好的应用级性能，因此低时延和高带宽成为数据中心应用的基本需求。

传统的TCP/IP网络由于复杂的内核协议栈和数据路径上的多次内存拷贝，已经无法满足应用对于低时延和高吞吐的需求。因此越来越多的解决方案选择将网络协议栈卸载到专用硬件上，这种内核旁路的网络减少了网络传输的延迟和终端主机的处理开销，远程内存访问(Remote Direct Memory Access，RDMA)技术就是其中的一个典型方案。同时摩尔定律的放缓使得通用CPU性能增长的边际成本迅速上升，CPU的性能增长率与数据量的增长率呈现出了显著的“剪刀差”现象。多核智能网卡的出现弥补了增长的网络带宽和停滞的CPU计算能力的差距，基于Bluefield系列的智能网卡就是现有的一种典型的智能网卡，其配备多核的计算能力并支持RDMA技术，正在被越来越多的数据中心应用所采用。

然而，简单的将智能网卡引进并不能充分释放其性能，反而会发生意想不到的性能瓶颈问题。因为不同的智能网卡有着不同的硬件特性，且数据中心部署着多种类型的应用，每个应用有着各自的流量特点和性能需求，不同类型的应用会部署在同一台裸金属服务器上，共享同一套智能网卡资源，进而引发不同应用之间的资源竞争导致的服务质量(Quality of Service，QoS)问题。现有的方案通过对流量分配优先级，将不同的RDMA流量直接分配至不同的硬件队列上来保障性能隔离，但是由于硬件网卡上的资源限制，应用类型的个数远远大于现有的硬件网卡队列，因此不同类型的流量将不可避免的被分配到同一个硬件队列中。现有方案将无法保障数据中心中各个应用之间的性能隔离需求，并且无法保障应用性能。

发明内容

本发明所要解决的技术问题是针对上述现有技术的不足，提供一种基于智能网卡卸载的数据中心多应用QoS保障系统及方法，在满足智能网卡卸载下，利用软件的方法保证不同业务流量的服务质量，对不同的流量进行性能隔离。

为了实现上述发明目的，本发明采用如下的技术方案：

第一方面，一种基于智能网卡卸载的数据中心多应用QoS保障系统，部署在数据中心服务器的智能网卡上，所述系统包括：

代理模块，用于在发送方应用与接收方应用之间建立网络连接，对发送方和接收方应用的消息进行代理转发；

资源分配模块，用于为每个网络连接分配网络带宽资源，并每隔一定时间间隔更新带宽；

资源管理模块，用于设置每个网络通信线程的总的发送窗口来控制其分配的网络带宽；

发送控制模块，用于判断I/O请求的消息类型，并收集各个应用连接中的信息，并基于该信息控制不同类型的消息的发送，其中I/O请求的消息类型是发送方应用依据应用提交请求时的数据量大小或优先级而标记的。