[发明专利]用于深度学习的方法和设备

说明书

公开了一种用于深度学习的方法和设备。所述用于深度学习的设备包括：处理器，被配置为：支持多种不同的操作模式，所述处理器包括：脉动阵列，具有多个乘法器累加器(MAC)单元；以及控制电路，被配置为：针对所述多种不同的操作模式中的每种操作模式，分别控制所述多个MAC单元的选择操作以及所述多个MAC单元之间的数据移动。

本申请要求于2020年7月31日提交到韩国知识产权局的第10-2020-0096333号韩国专利申请的权益，所述韩国专利申请的全部公开通过引用出于所有目的包含于此。

技术领域

下面的描述涉及一种用于深度学习的方法和设备。

背景技术

许多人工智能应用通过服务器与客户端之间的网络连接提供复杂但响应缓慢的服务。一个示例原因是因为人工神经网络(一种深度学习的算法)通常需要比通用处理器(AP)的非AI运算多1000倍或更多的计算运算。

发明内容

提供本发明内容以便以简化的形式介绍将在下面的具体实施方式中进一步描述的构思的选择。本发明内容不意在确定要求权利的主题的关键特征或必要特征，也不意在用于帮助确定要求权利的主题的范围。

在一个总体方面，一种深度学习设备，所述设备包括：处理器，被配置为：支持多种不同的操作模式，所述处理器包括：脉动阵列，包括多个乘法器累加器(ACC)单元；以及控制电路，被配置为：针对所述多种不同的操作模式中的每种操作模式，分别控制所述多个MAC单元的选择操作以及所述多个MAC单元之间的数据移动。

控制电路可被配置为：根据所述多种不同的操作模式中的哪种操作模式正被控制电路实现，来控制所述多个MAC单元中的多个MAC单元的累加器的操作。

所述多种不同的操作模式可包括：加法器树模式、单指令多数据(SIMD)模式、脉动加法器树模式和脉动模式中的两个或更多个的任何组合。

处理器可被配置为：在SIMD模式下执行深度卷积运算。

所述多种不同的操作模式可包括：加法器树模式和脉动加法器树模式中的至少一个，并且控制电路可被配置为：响应于加法器树模式或脉动加法器树模式被控制电路实现，对所述多个MAC单元中的一系列MAC单元中的仅一个MAC单元的累加器进行操作。

所述多种不同的操作模式还可包括：SIMD模式和脉动模式中的至少一种，并且控制电路可被配置为：响应于SIMD模式或脉动模式被控制电路实现，控制所述一个MAC单元中的加法器不操作。

MAC单元之一的加法器可被配置为：响应于加法器树模式或脉动加法器树模式被控制电路实现，考虑相邻的MAC单元的加法器输出。

所述一系列MAC单元中的除了所述一个MAC单元之外的MAC单元均可仅具有一个加法器，并且所述一个MAC单元可包括多个加法器。

所述多种不同的操作模式可包括：SIMD模式和脉动模式中的至少一种，并且控制电路可被配置为：响应于SIMD模式或脉动模式被控制电路实现，控制所述多个MAC单元中的一系列MAC单元中的一个MAC单元的加法器不操作，并且控制所述一个MAC单元的另一加法器和所述一系列MAC单元中的其他MAC单元的所有相应的加法器进行操作。

所述多种不同的操作模式可包括另一种模式，并且所述一个MAC中的加法器可被配置为：响应于所述另一种模式被控制电路实现，对所述一系列MAC单元中的相邻的MAC单元的加法器输出进行操作并考虑所述一系列MAC单元中的相邻的MAC单元的加法器输出。

所述多种不同的操作模式可包括：SIMD模式或脉动模式中的至少一种，控制电路可被配置为：响应于SIMD模式或脉动模式被控制电路实现，对全部所述多个MAC单元的累加器进行操作。