[发明专利]负载均衡方法及设备有效
申请号: | 202011458389.6 | 申请日: | 2020-12-10 |
公开(公告)号: | CN112637287B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 许凤强 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | H04L67/1001 | 分类号: | H04L67/1001;H04N21/2187;H04N21/647 |
代理公司: | 上海光栅知识产权代理有限公司 31340 | 代理人: | 关浩;马雯雯 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 负载 均衡 方法 设备 | ||
本公开实施例提供一种负载均衡方法及设备,包括:接收客户端发送的路由策略服务请求,路由策略服务请求中包含目标对象的编号标识;根据编号标识确定客户端获取目标对象的数据时对应的服务端的实例节点;若确定实例节点未达到负载限值,则获取实例节点的目标节点标识;发送目标节点标识至客户端,以使客户端发送包含目标节点标识的数据请求至网关设备,其中数据请求用于指示网关设备根据目标节点标识将客户端的数据请求转到服务端的目标节点标识对应的实例节点上;根据数据请求通过目标节点标识对应的实例节点发送目标对象的数据至客户端。能够在少量的客户端访问服务端时,提升客户端的请求命中服务端上缓存信息的几率,提升服务端的处理效率。
技术领域
本公开实施例涉及计算机与互联网技术领域,尤其涉及一种负载均衡方法及设备。
背景技术
在视频节目直播过程中,在面对大量用户的客户端访问请求时,需要提升直播服务端的负载能力。同时,为加快用户设备的访问速度,需要解决直播服务的负载均衡问题。直播中的负载均衡技术是解决视频节目直播中大用户访问,网络分布式部署架构需求、满足动态服务配置要求的主要方法。
主流的服务端的系统架构,一般采用分布式部署服务端的服务器节点,并且使用网关进行负载均衡的路由策略。目前,常用的路由策略,是通过采用路由算法,将客户端的请求尽可能均匀的落在服务端的各个节点上,保证服务端各节点的负载均衡。
在某些场景下,在同一个时间段内,会有一组客户端访问服务端的相同信息,例如获取直播间的消息。通过在服务端缓存直播间的消息,这样客户端可以访问服务端缓存的直播间的消息,以避免每次服务端重新获取该信息,提高服务端的处理效率。但是,发明人发现,通过在服务端的缓存信息,对收看人数比较多的直播间,采用现有的路由策略能够将大量客户端的请求分散到服务端的各节点上,客户端的请求有一定的几率命中缓存信息(即不同的客户端访问同一个节点获取相同的缓存信息)。然而,对于收看人数比较少的直播间,由于访问的客户端数量有限,采用现有的路由策略将客户端的访问请求会均匀到分到服务端的不同节点上,使得客户端的请求命中服务端的缓存信息的几率大大降低,降低了服务端的处理效率。
发明内容
本公开实施例提供一种负载均衡方法及设备,在少量的客户端访问服务端时,提升客户端的请求命中服务端上缓存信息的几率,进而提升服务端的处理效率。
第一方面,本公开实施例提供一种负载均衡方法,包括:
接收客户端发送的路由策略服务请求,其中所述路由策略服务请求是客户端响应于用户在所述客户端对任一目标对象的预设操作生成的,所述路由策略服务请求中包含所述目标对象的编号标识;
根据所述编号标识确定所述客户端获取所述目标对象的数据时对应的服务端的实例节点;
若确定所述实例节点未达到负载限值,则获取所述实例节点的目标节点标识;
发送所述目标节点标识至所述客户端,以使所述客户端发送包含所述目标节点标识的数据请求至网关设备,其中所述数据请求用于指示所述网关设备根据所述目标节点标识将所述客户端的数据请求转到所述服务端的所述目标节点标识对应的实例节点上;
根据所述数据请求通过所述目标节点标识对应的实例节点发送所述目标对象的数据至所述客户端。
第二方面,本公开实施例还提供一种负载均衡方法,包括:
响应于用户在所述客户端对任一目标对象的预设操作,发送路由策略服务请求至服务端,其中所述路由策略服务请求中包含所述目标对象的编号标识,以使所述服务端根据所述编号标识确定所述客户端获取所述目标对象的数据时对应的服务端的实例节点、并在确定所述实例节点未达到负载限值时,发送所述实例节点的目标节点标识至所述客户端;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011458389.6/2.html,转载请声明来源钻瓜专利网。