[发明专利]服务器吞吐量提高方法、装置、计算机设备及存储介质在审
申请号: | 202010173518.0 | 申请日: | 2020-03-13 |
公开(公告)号: | CN111400042A | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 邓爽;邓涛;肖隆韬 | 申请(专利权)人: | 深圳前海环融联易信息科技服务有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 涂年影 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务器 吞吐量 提高 方法 装置 计算机 设备 存储 介质 | ||
本发明涉及服务器吞吐量提高方法、装置、计算机设备及存储介质,该方法包括启动与CPU内核相同数量的线程;在所述线程上设置开关;采用轮询的方式监视所述线程上所有的输入输出通道的状态;当输入输出的状态为准备就绪,则将开关拨向所述输入输出通道,以进行输入输出通道的处理。本发明通过启动与CPU内核相同数量的线程,且该线程采用多路复用的方式,可同时处理多个输入输出流,在线程内设置开关,当输入输出通道准备就绪时,则将开关拨向该输入输出通道,以处理该通道上的输入输出流,实现有效利用CPU资源,解决CPU利用率与输入输出阻塞之间的矛盾,提高服务器的吞吐量以及提高服务器的响应速度。
技术领域
本发明涉及通信技术领域,更具体地说是指服务器吞吐量提高方法、装置、计算机设备及存储介质。
背景技术
当前,随着用户业务量的不断增长以及企业数据的不断积累,对服务器输入输出的吞吐量要求也越来越高。
在业务系统中,通过一个前端请求对应一个后台线程的方式实现,相比于单线程处理能大大提高处理效率,但时常因为有大量的并发导致输入输出饱和,进而导致业务系统吞吐量急速下降,导致前端请求缓慢,用户无法及时进行操作,但是此时CPU(中央处理器,central processing unit)又有很多的空闲资源,却无法供前端有效地利用,还会因为线程本身占用内存和CPU资源、单线程数量过多以及各个线程之间的CPU时间片切换效率低下,导致输入输出阻塞,进而导致CPU资源大量处理空闲状态且无法供前端有效地利用。
因此,有必要设计一种新的方法,实现有效利用CPU资源,解决CPU利用率与输入输出阻塞之间的矛盾,提高服务器的吞吐量以及提高服务器的响应速度。
发明内容
本发明的目的在于克服现有技术的缺陷,提供服务器吞吐量提高方法、装置、计算机设备及存储介质。
为实现上述目的,本发明采用以下技术方案:服务器吞吐量提高方法,包括:
启动与CPU内核相同数量的线程;
在所述线程上设置开关;
采用轮询的方式监视所述线程上所有的输入输出通道的状态;
当输入输出的状态为准备就绪,则将开关拨向所述输入输出通道,以进行输入输出通道的处理。
其进一步技术方案为:每个所述线程处理多个输入输出流。
其进一步技术方案为:所述在所述线程上设置开关,包括:
在线程上打开一个会话;
向所述会话注册一个开关,并监听线程上的输入输出通道准备接受事件。
其进一步技术方案为:所述采用轮询的方式监视所述线程上所有的输入输出的状态,包括:
循环检查所述开关上的输入输出通道的可用状态,以得到输入输出的状态。
其进一步技术方案为:所述当输入输出的状态为准备就绪,则将开关拨向所述输入输出通道,以进行输入输出通道的处理,包括:
当输入输出的状态为准备就绪,则将开关拨向所述输入输出通道,使得所述输入输出通道读取字节流,以进行输入输出通道的处理。
其进一步技术方案为:所述启动与CPU内核相同数量的线程,包括:
通过select/poll函数启动与CPU内核相同数量的线程。
本发明还提供了服务器吞吐量提高装置,包括:
线程启动单元,用于启动与CPU内核相同数量的线程;
开关设置单元,用于在所述线程上设置开关;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海环融联易信息科技服务有限公司,未经深圳前海环融联易信息科技服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010173518.0/2.html,转载请声明来源钻瓜专利网。