[发明专利]用于资源分配的系统、方法和装置

说明书

提供了用于资源分配的系统、方法和装置。所述方法可包括：确定与第一集群中的至少一个第一装置相关联的参数的第一值；基于参数的第一值确定阈值；接收用于在第一装置处理工作负载的请求；确定与第二集群中的至少一个第二装置相关联的参数的第二值满足所述阈值；和响应于满足所述阈值，将工作负载的至少一部分路由到第二装置。

本申请要求于2020年5月28日提交的题为“利用新型高速缓存一致性连接扩展存储器访问(EXTENDING MEMORY ACCESSES WITH NOVEL CACHE COHERENCE CONNECTS)”的第63/031,508号美国临时申请的优先权和权益、于2020年5月28日提交的题为“用于计算效率的池式服务器存储器资源(POOLING SERVER MEMORY RESOURCES FOR COMPUTEEFFICIENCY)”的第63/031,509号美国临时申请的优先权和权益、于2020年8月20日提交的题为“具有高速缓存一致性的存储器和服务器链接交换机领域的系统(SYSTEM WITHCACHE-COHERENT MEMORY AND SERVER-LINKING SWITCH FIELD)”的第63/068,054号美国临时申请的优先权和权益、以及于2020年7月28日提交的题为“具有新型互连的分解式存储器架构(DISAGGREGATED MEMORY ARCHITECTURE WITH NOVEL INTERCONNECTS)”的第63/057,746号美国临时申请的优先权和权益，所述美国临时申请的全部内容通过引用包含于此。

技术领域

本公开总体涉及高速缓存一致性，更具体地，涉及用于用于资源分配的系统、方法和装置。

背景技术

一些服务器系统可包括通过网络协议连接的服务器的集合。这样的系统中的每个服务器可包括处理资源(例如，处理器)和存储器资源(例如，系统存储器)。在一些情况下，一个服务器的处理资源访问另一服务器的存储器资源可以是有利的，并且在最小化任一服务器的处理资源的同时进行这种访问可以是有利的。

因此，需要一种用于管理包括一个或多个服务器的系统中的存储器资源的改进的系统和方法。

在本背景技术部分公开的以上信息仅用于增强对公开的背景技术的理解，因此，它可包含不构成现有技术的信息。

发明内容

在各种实施例中，在此描述的内容包括用于资源分配的系统、方法和设备。在一些实施例中，描述了用于资源分配的方法。所述方法可包括：确定与第一集群中的至少一个第一装置相关联的参数的第一值；基于参数的第一值确定阈值；接收用于在第一装置处理工作负载的请求；确定与第二集群中的至少一个第二装置相关联的参数的第二值满足所述阈值；和响应于满足所述阈值，将工作负载的至少一部分路由到第二装置。

在各种实施例中，所述方法还可包括：确定与第二集群中的至少一个第二装置相关联的参数的第二值超过所述阈值，并且响应于超过所述阈值，将工作负载的至少一部分保持在第一装置处。在另一实施例中，第一集群或第二集群包括直连式存储器架构、池式存储器架构、分布式存储器架构或分解式存储器架构中的至少一个。在一些实施例中，直连式存储器架构包括存储级存储器(SCM)装置、动态随机存取存储器(DRAM)装置和基于DRAM的垂直NAND装置中的至少一个。在另一实施例中，池式存储器架构包括高速缓存一致性加速器装置。在另一实施例中，分布式存储器架构包括与PCIe互连连接的高速缓存一致性装置。在一些实施例中，分解式存储器架构包括机箱中的物理集群的存储器和加速器扩展。

在各种实施例中，所述方法还可包括：基于工作负载的预计存储器使用、第一值和第二值计算得分；和基于得分将工作负载的至少一部分路由到第二装置。在另一实施例中，高速缓存一致性协议包括CXL协议或GenZ协议中的至少一个，并且第一集群和第二集群经由PCIe架构连接。在一个实施例中，资源包括存储器资源或计算资源中的至少一个。在另一实施例中，性能参数包括功率特性、每单位能量特性的性能、远程存储器容量和直接存储器容量中的至少一个。在一些实施例中，所述方法可包括至少将第二装置呈现给主机。