[发明专利]一种针对应用程序内控制请求响应速率的系统和方法

摘要

一种针对应用程序内控制请求响应速率的系统和方法，包括收敛器、EPOLL管理器、请求统计器、发送队列、接收队列、队列负载统计、业务模块连接池和若干个业务模块，用户通过接入网关系统接入到后台系统时，如果客户端发送的请求数据比较多或频率过快，将致使接入层来不及处理，数据堆积在接入层的连接管理模块，导致数据丢失，甚至使接入层进程崩溃。同时各个业务模块的处理能力各不一样，一种业务请求在接入层发送过快，其他业务请求不应该受到影响。本发明的目的在于设计一套对应用程序内部子模块间请求响应速率进行控制的方法和装置，避免不同业务请求之间相互影响，避免因处理不过来而丢弃数据包，避免应用程序因请求速率过快而崩溃。

主权项

1.一种针对应用程序内控制请求响应速率的系统，其特征在于：包括收敛器、EPOLL管理器、请求统计器、发送队列、接收队列、队列负载统计、业务模块连接池和若干个业务模块，其中：收敛器连接EPOLL管理器：负责用户连接的建立，并将建立好的连接通过本地套接字发送到多个接入网关进程上去；EPOLL管理器连接收敛器、请求统计器、发送队列和接收队列：采用EPOLL实现的，管理用户连接的读写状态，开辟若干个连接对象池，每个连接对象都具有发送缓存队列，同时对整个进程和单个连接进行适当请求速率控制；连接缓存队列属于EPOLL管理器的子模块：针对每个用户连接开辟个缓存队列，用于小包合关发送和响应数据超时丢弃；请求统计器连接EPOLL管理器、发送队列、接收队列、和业务模块连接池：负责统计每个用户连接上的请求速率和响应速率，统计进程总体请求速率和响应速率，统计业务模块连接池的发送速率和响应速率；当各项速率大于阈值时进行适当控制；队列负载统计连接发送队列和接收队列：负责统计发送队列和接收队列的利用率情况，当利用率达到一定的阈值时进行适当控制；发送队列连接EPOLL管理器、请求统计器、接收队列、队列负载统计和业务模块连接池：从业务模块连接池上接收响应数据，供EPOLL管理器提取发送给有用户端；接收队列连接EPOLL管理器、请求统计器、发送队列、队列负载统计和业务模块连接池：从EPOLL管理器接收请求数据，供业务模块连接池转发到具体的业务模块；业务模块连接池连接请求统计器、发送队列、接收队列和具体的业务模块：从接收队列接收请求数据，然后将请求发送到对应的业务模块；再从业务模块接收响应数据，并将响应数据传递到发送队列；业务模块连接业务模块连接池：具体执行某一项业务处理，如K线模块、实时行情模块。