[发明专利]客户端与服务节点之间的连接方法和装置、计算设备和存储介质

说明书

本发明公开了一种客户端与服务节点之间的连接方法和装置、计算设备和存储介质。该方法包括：为客户端与第一数量个服务节点创建第二数量个服务连接，其中，与所述多个服务节点中的每个服务节点建立至少一个服务连接；响应于所述客户端的应用程序与服务节点建立服务连接的服务连接请求，从所述第二数量个服务连接中选择服务连接以用于所述应用程序。由此，根据服务连接请求，从预先建立的服务连接中选择可用于应用程序的服务连接，将建立客户端与服务节点之间的连接从处理服务请求的路径上转到后台，从而降低对系统响应时间的影响。

技术领域

本发明涉及网络通信技术领域，特别涉及一种客户端与服务节点之间的连接方法和装置、计算设备和存储介质。

背景技术

在信息流推荐系统中，针对用户的每一次刷新，需要结合用户的画像信息、用户历史行为、字典、算法预测模型、文章实时点击等信息给用户以精准的个性化推荐。

上述各服务需要建立客户端到服务端的连接，并基于远程过程调用的方法对外提供服务。建立连接的过程的耗时网络状况较好的情况下一般为6-10毫秒，如果网络状况变差则耗时会有相应的增长。针对此类服务的超时重试机制，在重试前需要再次建立连接。由此，多次访问外部服务带来系统响应时间增加以及服务整体不稳定。

因此，仍然需要一种改进的服务连接方案。

发明内容

本发明提供了一种客户端与服务节点之间的连接方法和装置，以降低对系统响应时间的影响，提升整体服务的稳定性。

根据本发明的一个方面，提供了一种客户端与服务节点之间的连接方法，包括：为客户端与第一数量个服务节点创建第二数量个服务连接，其中，与所述多个服务节点中的每个服务节点建立至少一个服务连接；响应于所述客户端的应用程序与服务节点建立服务连接的服务连接请求，从所述第二数量个服务连接中选择服务连接以用于所述应用程序。

由此，将建立客户端与服务端之间的连接从处理服务请求的路径上转到后台，从而降低对系统响应时间的影响。

将所创建的第二数量个服务连接放入所述客户端本地设置的连接池，其中，从所述第二数量个服务连接中选择服务连接以用于所述应用程序的步骤可以包括：从所述连接池中选择服务连接以用于所述应用程序。

由此，通过引入连接池装置来管理依赖各种外部服务的服务连接，消除建立连接的耗时对系统响应时间的影响。

可选地，从所述连接池连接中选择服务连接以用于所述应用程序的步骤可以包括：确定与所述服务连接请求相对应的对应服务节点；以及从所述连接池中所述客户端与所述对应服务节点之间的至少一个服务连接中选择一个服务连接以用于所述应用程序。

由此，通过从连接池获取连接，极大降低了远程过程调用连接阶段的耗时。

可选地，所述确定与所述服务连接请求相对应的对应服务节点的步骤可以包括：确定与所述应用程序的服务类型相对应的选择策略；基于所述选择策略，确定与所述服务连接请求相对应的服务节点。

可选地，所述选择策略包括轮询策略、随机策略、一致性哈希策略中的至少一种。

由此，通过多种选择策略来支持对服务端的选择，对于有状态的服务比较友好，同时能够提升系统性能。

可选地，该方法还可以包括：响应于服务节点的增加和/或减少，调整所述连接池的所述第二数量个服务连接；或者调整所述连接池的所述第二数量个服务连接，以便为热门服务节点分配多于其它服务节点的服务连接，所述热门服务节点为预定时间段内与其对应的服务连接请求数量最多的一个或多个服务节点。

可选地，该方法还可以包括：设置或修改所述第二数量；响应于所述第二数量被修改，调整所述连接池的所述第二数量个服务连接。

由此，根据实际应用情况实时调整服务连接，以免对服务的性能产生任何影响。