[发明专利]一种GPU箱

说明书

本发明提供一种GPU箱，包括PCIE switch模块，PCIE switch模块连接有GPU互联模块、对外接口模块以及管理模块，管理模块还与GPU互联模块和对外接口模块连接；PCIE switch模块包括三个PCIE扩展单元；对外接口模块包括第一对外接口、第二对外接口、第一PCIE插槽、第二PCIE插槽、第三PCIE插槽以及第四PCIE插槽；GPU互联模块包括八个GPU；八个GPU之间互联；管理模块包括I2C扩展单元、模数转换单元以及控制信号扩展单元。本发明实现GPU箱的独立设计，保证GPU性能最大化，传输延迟低，扩展性好。

技术领域

本发明属于服务器板卡设计领域，具体涉及一种GPU箱。

背景技术

GPU，Graphics Processor Unit的缩写，图形处理器。

SXM2，显示处理器公司Nvdia定义的高性能处理器模块类型，支持NVLink互联总线。

NVLink，作为超越PCI-e的高性能互联技术，NVLink实现了CPU-GPU和GPU-GPU之间的超高速数据传输,其中NVLink1互联速度达到20GB/s，NVLINK2互联速度达到25GB/s。

随着人工智能和高性能计算的兴起，GPU运算的优势在高性能计算机的体现越来越明显，相较于传统的CPU处理器，具有超高的处理核心，更适合并行运算的人工智能和高性能要求，GPU服务器已经成为服务器下个快速增长点。

现在的GPU设计基本上是采用通用PCIE插槽接口，基本上都是集成到服务器内部，和服务器本身绑定，作为GPU服务器或者高性能服务器销售。

标准的PCIE接口是通用服务器常用的设计方式，但由于前期架构规划，服务器本身只有单一GPU的时候，设计是没有问题的，但是应用于人工智能和高性能的服务器现在需要使用更多的GPU处理器，这样PCIE结构就会成为GPU之间数据交换处理的瓶颈，严重影响多GPU架构下多GPU的性能发挥。

GPU和CPU处理器的集成设计，绑定了GPU和CPU的应用场景，一旦应用达到GPU使用的上限时，只能通过网络做分布式互联方案，这样服务器本身的处理性能就会卡在网络带宽和延迟上，无法更高的提高服务器的性能。

CPU和GPU之间的互联架构是固定的，无法根据不同的应用场景调整合适的CPU和GPU之间的互联拓扑，以达到一个浮点运算(GPU优势项)和整数运算(CPU优势项)的合理配置。

此为现有技术的不足，因此，针对现有技术中的上述缺陷，提供一种GPU箱，是非常有必要的。

发明内容

本发明的目的在于，针对上述多GPU下,GPU与CPU之间的互联架构无法调整的缺陷，提供一种GPU箱，以解决上述技术问题。

为实现上述目的，本发明给出以下技术方案：

一种GPU箱，包括PCIE switch模块，PCIE switch模块连接有GPU互联模块、对外接口模块以及管理模块，管理模块还与GPU互联模块和对外接口模块连接；

PCIE switch模块包括第一PCIE扩展单元，第一PCIE扩展单元连接有第二PCIE扩展单元和第三PCIE扩展单元；

第一PCIE扩展单元还与对外接口模块连接，对外接口模块包括第一对外接口、第二对外接口、第一PCIE插槽、第二PCIE插槽、第三PCIE插槽以及第四PCIE插槽；第一对外接口和第二对外接口均与第一PCIE扩展单元连接，第一PCIE扩展单元还连接第二PCIE插槽和第三PCIE插槽，第二PCIE扩展单元连接第一PCIE插槽，第三PCIE扩展单元连接第四PCIE插槽；

GPU互联模块包括第一GPU、第二GPU、第三GPU、第四GPU、第五GPU、第六GPU、第七GPU以及第八GPU；