[发明专利]一种数据交换芯片及服务器

说明书

本申请提供一种人工智能AI交换芯片及服务器，AI交换芯片包括第一AI接口、第一网络接口和控制器，第一AI接口用于AI交换芯片连接第一服务器中的第一AI芯片，第一AI芯片为第一服务器中多个AI芯片中的任意一个；第一网络接口用于AI交换芯片连接第二服务器；控制器通过第一AI接口接收第一AI芯片发送的数据；然后将数据通过第一网络接口发送至第二服务器。通过AI交换芯片，服务器在将AI芯片中的数据发送给另一服务器时，可以通过AI接口直接接收AI芯片发送的数据，然后通过与控制器连接的一个或多个网络接口发送给另一服务器，使服务器中的AI芯片中的数据传输到其他服务器的时延更小，效率更高。

技术领域

本申请涉及服务器领域，尤其涉及一种数据交换芯片及服务器。

背景技术

随着计算机技术的发展，人工智能(Artificial Intelligence，AI)和大数据在机器视觉、自然语言处理等越来越多的领域中得到广泛的应用，人工智能是对人的意识和思维过程的模拟，通常通过神经网络模型实现，对于神经网络模型的训练常用到AI芯片，AI芯片是一种用于处理人工智能应用中的大量计算任务的模块，一个服务器中可以有一个或多个AI芯片。随着应用场景需求的提升，神经网络规模和数据集规模急剧增长，通过单个服务器对神经网络模型进行训练需要消耗的时间较长。为了适应神经网络规模和数据的增长，缩短神经网络模型训练的时间，通常需要利用多个服务器中的AI芯片进行数据的并行处理，例如，采用不同服务器负责训练神经网络模型的不同网络层，或者将同一层网络的不同数据分配到不同的服务器中的AI芯片进行训练，然后将所有服务器的计算结果按照某种方式合并。但是多个服务器并行处理数据时，不同服务器之间需要传输大量的数据，如何降低服务器之间传输数据时的时延是提高数据并行处理效率亟待解决的技术问题。

发明内容

本申请提供了一种数据交换的芯片及服务器，用于提高服务器之间数据传输的效率。

第一方面，本申请提供一种人工智能交换AI Switch芯片，包括：第一AI接口、第一网络接口以及控制器，其中，

第一AI接口用于AI Switch芯片通过第一AI接口连接第一服务器中的第一AI芯片，上述第一服务器包括上述AI Switch芯片以及多个AI芯片，第一AI芯片为多个AI芯片中的任意一个；

第一网络接口用于使AI Switch芯片通过第一网络接口连接第二服务器；

控制器分别连接上述第一AI接口与上述第一网络接口，并用于通过上述第一AI接口接收上述第一AI芯片发送的第一数据；然后将第一数据通过第一网络接口发送至上述第二服务器。

通过上述AI Switch芯片，服务器在需要将AI芯片中的数据发送给另外一台服务器时，上述AI Switch芯片中的控制器不需要经过其他芯片或者模块，可以通过与控制器连接的AI接口直接接收AI芯片发送的数据，然后通过与控制器连接的网络接口发送给另外一台服务器，从而使服务器中的控制器从AI芯片接收数据时的时延更小，效率更高。

在一种可能的实现方式中，上述AI Switch芯片还包括外设总线接口标准PCIe接口，PCIe接口分别连接上述控制器以及上述第一服务器中的处理器；

上述控制器在通过第一AI接口接收第一AI芯片发送的第一数据之前，上述控制器还用于：通过上述PCIe接口接收上述处理器发送的控制信息，所述控制信息中携带有第一AI芯片的标识；上述控制器通过所述第一AI接口接收所述第一AI芯片发送的第一数据时，具体为：根据上述第一AI芯片的标识通过上述第一AI接口接收上述第一AI芯片发送的第一数据。