[发明专利]边缘单元具有本地累加功能的人工智能模块及系统芯片

说明书

一种边缘PE具有本地累加功能的AI模块及系统芯片。在实施例中，所述AI模块包括：按第一维度和第二维度排列成二维阵列的多个处理单元，各处理单元能够完成乘加运算；其中，处理单元包括使能输入端，用于接收使能信号，并且根据使能信号暂停或启动处理单元的操作；所述多个处理单元中位于二维阵列边缘的处理单元在控制信号的作用下，能够对乘积进行累加；二维阵列中的各处理单元共用同一个时钟信号进行运算；其中第一维度和第二维度彼此垂直。本发明实施例允许末端单元中对历次运算结果进行累加，由此，可以有效减少AI模块的规模。

技术领域

本发明涉及集成电路技术领域，尤其涉及一种边缘PE具有本地累加功能的AI模块及系统芯片。

背景技术

近年来，人工智能迎来一波发展浪潮。人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机，使计算机能实现更高层次的应用。

随着人工智能研究的深入和应用的广泛推广，有必要推出更符合需求的AI模块。

此外，人工智能模块由处理器通过总线来进行访问控制，而总线是有一定的带宽限制，这样的架构难以适应人工智能AI模块的大带宽需求。

发明内容

根据第一方面，本发明实施例提供一种包括AI模块的芯片电路，所述AI模块包括：按第一维度和第二维度排列成二维阵列的多个处理单元，各处理单元能够完成乘加运算；其中，处理单元包括使能输入端，用于接收使能信号，并且根据使能信号暂停或启动处理单元的操作；所述多个处理单元中位于二维阵列边缘的处理单元在控制信号的作用下，能够对乘积进行累加；二维阵列中的各处理单元共用同一个时钟信号进行运算；其中第一维度和第二维度彼此垂直。

在一种实施方式下，处理单元包括系数存储器，用于提供处理单元运算用系数数据；处理单元包括乘法器、加法器、第一寄存器和第二寄存器；在第一维度上的第一输入数据端和第一数据输出端；在第二维度上的第二数据输入端和第二数据输出端；第一数据自第一数据输入端口输入，乘法器将第一数据和系数数据相乘；第二数据自第二数据输入端输入，加法器将第二数据和乘积相加，相加之后的和值寄存在第一寄存器中；和值在时钟控制下可以经第二数据输出端输出；第一数据还寄存在第二寄存器中，并且在时钟控制下可以经第二输出端输出。

在一种实施方式下，所述位于二维阵列边缘的处理单元包括系数存储器，用于提供处理单元运算用系数数据；处理单元包括乘法器、加法器、第一寄存器、第二寄存器和复用器；在第一维度上的第一输入数据端和第一数据输出端；在第二维度上的第二数据输入端和第二数据输出端；第一数据自第一数据输入端口输入，乘法器将第一数据和系数数据相乘；第二数据自第二数据输入端输入，复用器从来自第二数据输入端的第二数据和第一寄存器的输出数据中选择一个数据输出；加法器将复用器的输出数据和乘积相加，相加之后的和值寄存在第一寄存器中；和值在时钟控制下可以经第二数据输出端输出；第一数据还寄存在第二寄存器中，并且在时钟控制下可以经第二输出端输出。

根据第二方面，本发明实施例提供一种系统芯片，包括：如第一方面所述的芯片电路；FPGA模块，与所述AI模块耦合，以便自AI模块发送数据或者接收数据。

在第二方面的一种实施方式下，AI模块包括第一处理单元、第二处理单元和第三处理单元；其中第一处理单元和第二处理单元沿第一维度相邻排列，第一处理单元的第二输出端耦合到第二处理单元的第一输入端；第一处理单元和第三处理单元沿第二维度相邻排列，第一处理单元的第一输出端耦合到第三处理单元的第二输入端。

在第二方面的另一种实施方式下，AI模块嵌入FPGA模块中以便复用FPGA模块的绕线架构，以便自AI模块发送数据或者接收数据，皆经由所述的复用的FPGA的绕线架构。

由于允许末端单元中对历次运算结果进行累加，由此，可以有效减少AI模块的规模。

附图说明