[发明专利]基于数据流的人工智能芯片及其驱动方法、装置

说明书

本公开提供了一种基于数据流的人工智能芯片及其驱动方法、装置，涉及人工智能领域，所述基于数据流的人工智能芯片包括：多个存储模块；多个计算电路，不同计算电路被配置为执行机器学习算法模型中不同类型的计算；和第一多路复用电路，被配置为响应于任务对应的第一驱动信号，读取与所述第一驱动信号对应的第一组存储模块中的第一数据，并将所述第一数据传输到与所述第一驱动信号对应的第一组计算电路。所述第一多路复用电路包括：多个第一输入端，与所述多个存储模块一一对应连接；和多个第一输出端，包括与所述多个计算电路一一对应连接的第一组第一输出端。

技术领域

本公开涉及人工智能领域，尤其是一种基于数据流的人工智能芯片及其驱动方法、装置。

背景技术

作为人工智能技术的重要组成部分，机器学习被广泛地应用于各行各业以提高生产效率。然而，机器学习的算法比较复杂且涉及大量的计算，这限制了机器学习算法模型的运行速度。

相关技术中，可以使用定制化的基于数据流的人工智能芯片来执行机器学习算法以提高机器学习算法模型的运行速度。这种人工智能芯片包括用于执行机器学习算法中各种类型的计算的多个计算电路。这些计算电路与人工智能芯片中的存储单元连接，从而可以在需要进行计算时直接从存储单元读取执行计算需要的数据。这降低了数据传输的时延，从而提高了人工智能芯片的计算速度。

发明内容

发明人注意到，相关技术中的方式下，人工智能芯片的计算速度仍然较低。

发明人经分析发现，这种人工智能芯片中的存储单元被设计成多个存储模块，每个存储模块固定用于存储对应的一种类型的数据。为了便于计算电路读取数据，将每个存储模块与执行计算时需要对应类型的数据的一个计算电路连接。

然而，在实际的应用场景中，普遍存在不同计算电路执行计算时需要使用相同数据的情况。在这种情况下，需要耗费时间将数据从原本的存储模块搬运至另一存储模块，从而降低了人工智能芯片的计算速度。

为了解决上述问题，本公开实施例提出了如下解决方案。

根据本公开实施例的一方面，提供一种基于数据流的人工智能芯片，包括：多个存储模块；多个计算电路，不同计算电路被配置为执行机器学习算法模型中不同类型的计算；以及第一多路复用电路，被配置为响应于任务对应的第一驱动信号，读取与所述第一驱动信号对应的第一组存储模块中的第一数据，并将所述第一数据传输到与所述第一驱动信号对应的第一组计算电路，所述第一多路复用电路包括：多个第一输入端，与所述多个存储模块一一对应连接，和多个第一输出端，包括与所述多个计算电路一一对应连接的第一组第一输出端。

在一些实施例中，所述第一多路复用电路还被配置为：响应于另一任务对应的另一第一驱动信号，读取所述第一组存储模块中的所述第一数据，并将所述第一数据传输到与所述另一第一驱动信号对应的第二组计算电路。

在一些实施例中，所述人工智能芯片还包括：第二多路复用电路，被配置为响应于所述任务对应的第二驱动信号，读取所述人工智能芯片外的存储结构中的第二数据，并将所述第二数据存储到与所述第二驱动信号对应的第二组存储模块，所述第二数据被包含在所述第一数据中，所述第二组存储模块被包含在所述第一组存储模块中，其中，所述第二多路复用电路包括：多个第二输入端，包括与所述存储结构连接的第一组第二输入端，和多个第二输出端，与所述多个存储模块一一对应连接。

在一些实施例中，所述第二多路复用电路还被配置为：响应于所述第二驱动信号，读取所述第二数据中同一种类型的数据，并将所述同一种类型的数据存储到所述第二组存储模块中的至少两个存储模块。

在一些实施例中，所述多个第一输出端还包括与所述存储结构连接的第二组第一输出端；所述第一多路复用电路还被配置为：响应于第三驱动信号，读取与所述第三驱动信号对应的第三组存储模块中的第三数据，并将所述第三数据存储到所述存储结构；其中，所述第三组存储模块中的至少一个被包含在所述第二组存储模块中。