[发明专利]一种流量控制方法及装置

说明书

本申请公开了一种流量控制方法及装置，用于解决现有技术中的流量控制方式在出现秒级流量毛刺的情况下，流量控制准确性很差的问题。每秒限流值为N个单位流量，N为不小于1的整数，该方法包括：按照设定的令牌释放周期，周期性地对至少一个令牌分别进行重复释放，使得每秒内释放令牌的总次数不大于N，其中，所述令牌释放周期是根据所述每秒限流值和所述至少一个令牌的数量设定的，释放的每个令牌用于准许将流入的一个单位流量流出；以及通过所述至少一个令牌，对流入的各单位流量的流出进行控制。

技术领域

本申请涉及网络技术领域，尤其涉及一种流量控制方法及装置。

背景技术

随着互联网和计算机技术的迅速发展，很多业务诸如电子商务业务、通讯业务、金融业务等，都可以在网上进行，给人们的生活带来了很大的便利。

一般地，可以由服务器侧的多个节点构成业务链，用于进行业务处理。业务以流量的形式在业务链上流动，流量到达上游节点时，可以流入上游节点，由上游节点对流入的流量处理后再流向下游节点。当从上游节点流出的流量规模较大时，为了防止下游节点处理负担过重，可以采用流量控制应用，对上游节点和下游节点之间的流量进行控制。具体地，上游节点流出的流量会流入流量控制应用，并在流量控制应用的控制下流出，以使得每秒流出量不超过每秒限流值，进而流向下游节点，每秒限流值可以根据下游节点的处理能力进行设定。

在现有技术中，流量控制应用一般采用定时批量释放令牌的方式进行流量控制。假定每秒限流值为N个单位流量，则可以在每秒开始时批量释放N-M个令牌，其中，M为当前尚未用完的令牌数量。流量控制应用的流出线程每占用一个令牌，流量控制应用可以允许该流量线程流出一个单位流量，以使得每秒从流量控制应用流出的单位流量数不超过N。

但是，在实际应用中，如果流量控制应用的前一秒的流入量远小于N个单位流量，而后一秒的流入量远大于N个单位流量(也即，在后一秒产生秒级流量毛刺)，则在后一秒内尚未来得及批量释放令牌时，前一秒未用完的令牌就会被消耗掉，进而，在后一秒内仍然会批量释放N个令牌，且这N个令牌也会被全部消耗掉，导致后一秒内的流出量会远大于N个单位流量。

由此可见，现有技术中的流量控制方式在出现秒级流量毛刺的情况下，流量控制准确性很差。

发明内容

本申请实施例提供一种流量控制方法及装置，用以解决现有技术中的流量控制方式在出现秒级流量毛刺的情况下，流量控制准确性很差的问题。

本申请实施例提供的一种流量控制方法，每秒限流值为N个单位流量，所述方法包括：

按照设定的令牌释放周期，周期性地对至少一个令牌分别进行重复释放，使得每秒内释放令牌的总次数不大于N，其中，所述令牌释放周期是根据所述每秒限流值和所述至少一个令牌的数量设定的，释放的每个令牌用于准许将流入的一个单位流量流出；以及

通过所述至少一个令牌，对流入的各单位流量的流出进行控制。

本申请实施例提供的一种流量控制装置，每秒限流值为N个单位流量，所述装置包括：

令牌释放模块，用于按照设定的令牌释放周期，周期性地对至少一个令牌分别进行重复释放，使得每秒内释放令牌的总次数不大于N，其中，所述令牌释放周期是根据所述每秒限流值和所述至少一个令牌的数量设定的，释放的每个令牌用于准许将流入的一个单位流量流出；

流量控制模块，用于通过所述至少一个令牌，对流入的各单位流量的流出进行控制。

本申请实施例通过上述至少一种技术方案，可以使得每秒内释放令牌的总次数不大于每秒限流值，由于释放的每个令牌用于准许将流入的一个单位流量流出，因此，每秒流出的单位流量的最大数量也不会超过每秒限流值，从而可以准确地进行流量控制，解决了现有技术中的问题。

附图说明