[发明专利]芯片、及在芯片内建立数据路径的方法

说明书

本申请实施例提供一种芯片及在芯片内建立数据路径的方法。该芯片包括多个集成处理设备；互联网络，其适于互联多个集成处理设备，并且包括设置于多个集成处理设备中相邻集成处理设备之间的可配置路径单元，可配置路径单元适于接收来自集成处理设备和转发至集成处理设备的数据；控制单元，其适于基于芯片在不同应用中运行参数的特定需求级别而选择性地配置可配置路径单元以在多个集成处理设备中的两个集成处理设备之间建立数据路径。本申请实施例的技术方案可以在芯片级别动态地配置数据路径，这有益于提高计算效率和降低芯片功耗等。

技术领域

本发明涉及芯片领域，尤其涉及芯片及在芯片内建立数据路径的方法。

背景技术

芯片的应用越来越广泛，例如，随着神经网络技术的发展，人工智能(ArtificialIntelligence，简称为“AI”)芯片需要更加强大的算力，这可以通过在AI芯片上增加更多的计算元件来实现，而更多的计算元件需要大量的数据来计算。

单位时间进入到计算单元中的数据量称为带宽，带宽会限制AI芯片的实际性能。对于每一个AI芯片架构，一个大的挑战是如何确保足够的带宽以使得数据能够被及时地提供到计算单元。通常，在AI架构内，到计算单元的数据路径是固定的；有两条进入到计算单元的数据路径，每条数据路径都向乘法器提供数据(该数据称为乘法器的操作数)。其缺点是，数据路径会固定用于AI芯片架构下的所有神经网络场景，其中两条数据路径的带宽限制了计算单元的效率。

为了提高效率，布置计算单元以最大化地重复利用从两条数据路径进入到计算单元中的数据。但是，重复利用用于多种计算的数据固定了获取这些数据的操作，这限制了操作的灵活性。

发明内容

本发明解决的技术问题是计算单元操作的灵活性受到了限制等。

为解决上述技术问题，本发明实施例提供一种芯片，包括多个集成处理设备；互联网络，其适于互联多个集成处理设备，并且包括设置于多个集成处理设备中相邻集成处理设备之间的可配置路径单元，可配置路径单元适于接收来自集成处理设备和转发至集成处理设备的数据；控制单元，其适于基于芯片在不同应用中运行参数的特定需求级别而选择性地配置可配置路径单元以在多个集成处理设备中的两个集成处理设备之间建立数据路径。

可选地，两个集成处理设备包括用于接收数据的源集成处理设备和用于发送数据的目的集成处理设备，控制单元适于确定源集成处理设备并且基于源集成处理设备确定目的集成处理设备。

可选地，多个集成处理设备中的每个集成处理设备都包括计算单元，数据路径适于传输用于计算单元计算的操作数或者用于组合操作数的数据。

可选地，还包括接口模块，其适于将来自于集成处理设备的计算数据封装成可配置路径单元可以处理的传输数据并且将来自于可配置路径单元的传输数据解封装成集成处理设备可以处理的计算数据。

可选地，可配置路径单元适于基于网络层协议或者数据链路层协议接收来自和转发至集成处理设备的数据。

可选地，控制单元适于将芯片的特定需求级别发送到可配置路径单元，可配置路径单元包括配置信息或者转发策略并且适于接收特定需求级别、以及基于特定需求级别而选择配置信息中预设的特定路径或者根据转发策略确定的特定路径以在两个集成处理设备之间建立数据路径。

可选地，芯片在不同应用中运行参数的特定需求级别为芯片在神经网络的不同应用中数据传输时间的高需求级别、数据传输时间的低需求级别、芯片运行功率的高需求级别、芯片运行功率的低需求级别、网络拥塞控制的高需求级别、或者网络拥塞控制的低需求级别。