[发明专利]一种NPU与主CPU的数据交互方法和装置

说明书

本发明提供了一种NPU与主CPU的数据交互方法和装置，其中，该方法包括：NPU监测所述NPU中的task‑out ID寄存器中是否被写入新的信道标识；在确定所述task‑out ID寄存器中被写入新的信道标识的情况下，向主CPU发送中断信号；其中，所述主CPU响应于所述中断信号从所述task‑out ID寄存器中读取所述新的信道标识，对所述新的信道标识所指示的信道进行逐点取反操作。在上述方案中，通过设置寄存器，在某个信道完成操作之后，将该信道标识写入该寄存器中，通过寄存器中信道标识的变化，来触发对该信道的下一步处理，从而使得NPU与主CPU可以达到任务流水线的效果，提升了数据传输效率和数据处理效率。

技术领域

本发明涉及人工智能技术领域，特别涉及一种NPU与主CPU的数据交互方法和装置。

背景技术

神经网络(Neural Network)，是20世纪80年代以来人工智能领域兴起的研究热点，神经网络是从信息处理角度对人脑神经元网络进行抽象，从而建立起某种简单模型，然后，按照不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。

神经网络是一种运算模型，由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。然而，网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

由于神经网络的运算量巨大，NPU(Neural-Network Processing Uint，神经网络处理器或神经网络加速引擎)往往需要采用专用数字逻辑电路来进行加速。神经网络由于计算量巨大，CPU/GPU/DSP等处理器虽然通用，但是由于性能功耗比较低，因此，在inference端级，一般都需要选择专门的神经网络加速器对其进行加速。

神经网络虽然形多变化多样，但是相对而言神经网络的计算是较为规则的，比较适合用粗颗粒度的指令进行ASIC化的加速，例如：卷积、池化与全连接操作等。

然而，在实际使用的过程中，只有卷积、池化与全连接是不够的，有时还需要一些其它的计算，或者是随着算法的演进，会出现一些新的运算类型。在这种情况下，仅依靠有限固定功能的加速器很难覆盖，这事就需要适当的扩展处理能力(例如：将不能支持的运算交给CPU处理)，然而，因为需要与其它的处理资源进行数据交互，就需要考虑交互成本以及数据处理的效率等。

针对上述问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种NPU与主CPU的数据交互方法和装置，以达到提升处理效率的技术效果。

一方面，提供了一种NPU与主CPU的数据交互方法，包括：

NPU监测所述NPU中的task-out ID寄存器中是否被写入新的信道标识；

在确定所述task-out ID寄存器中被写入新的信道标识的情况下，向主CPU发送中断信号；

其中，所述主CPU响应于所述中断信号从所述task-out ID寄存器中读取所述新的信道标识，对所述新的信道标识所指示的信道进行逐点取反操作。

在一个实施方式中，向主CPU发送中断信号包括：

通过irq向主CPU发送中断信号。

在一个实施方式中，所述方法还包括：

监测task-in ID寄存器中是否被写入新的信道标识；

在确定所述task-in ID寄存器中被写入新的信道标识的情况下，对所述新的信道标识所标识的信道进行池化操作。