[发明专利]缓冲存储器及使用缓冲存储器的计算装置和系统

说明书

本申请公开一种计算装置，该计算装置包括向计算单元提供第一至第n输入特征组的缓冲存储器。缓冲存储器包括第一至第n存储器，并且被配置成对第一至第n输入特征组进行划分并将该第一至第n输入特征组分别存储在第一至第n存储器中，其中每个输入特征组包括多个特征。一个输入特征组的多个特征被划分并存储到第一至第n存储器中。将在第一至第n输入特征组中具有相同次序的特征逐个地存储在第一至第n存储器中。

相关申请的交叉引用

本申请要求于2019年4月1日向韩国知识产权局提交的申请号为10-2019-0037832的韩国申请的优先权，其通过引用整体并入本文。

技术领域

各个实施例总体涉及一种集成电路技术，且更特别地，涉及一种缓冲存储器以及使用该缓冲存储器的计算装置和系统。

背景技术

随着第四次工业革命的推进，与物联网(IoT)、移动、云存储、大数据分析和人工智能(AI)相关的技术不断发展。为了实施人工智能，已经发展了诸如机器学习和深度学习的技术。因为机器学习和深度学习都计算或分类接收到的输入以生成输出，所以这两种技术彼此相似。同时，机器学习可通过由人类输入的算法来分析和推断数据，而深度学习则可通过深度神经网络来分析和推断数据。

深度神经网络(DNN)电路可包括矩阵运算电路，该矩阵运算电路对接收到的输入执行MAC(乘积累加)运算以生成输出。矩阵运算电路可执行卷积运算，并且通常可包括脉动阵列。脉动阵列可对诸如激活输入和权重数据的一组输入特征执行MAC运算。

发明内容

在实施例中，计算装置可包括缓冲存储器和计算单元。缓冲存储器可包括第一至第n存储器，并且被配置成将各自包括多个特征的第一至第n输入特征组存储在第一至第n存储器中，并且将一个输入特征组的多个特征分开存储到第一至第n存储器中。在第一至第n输入特征组中具有相同次序的特征可逐个地存储在第一至第n存储器中，并且“n”可以是等于或大于2的整数。计算单元可被配置成接收存储在缓冲存储器中的第一至第n输入特征组，并且对所接收的输入特征组执行计算操作。

在实施例中，计算装置可包括缓冲存储器和计算单元。缓冲存储器可包括第一至第四存储器，并且被配置成将各自至少具有第一至第四特征的第一至第四输入特征组存储在第一至第四存储器中，并且将一个输入特征组的第一至第四特征划分和存储在第一至第四存储器中。在第一至第四输入特征组中具有相同次序的特征可被划分并存储在第一至第四存储器中，以免彼此重叠。计算单元可被配置成接收存储在缓冲存储器中的第一至第四输入特征组，并且对所接收的输入特征组执行计算操作。

在实施例中，系统可包括主机装置和计算装置。主机装置可被配置成通过系统总线传输第一输入数据。计算装置可被配置成接收第一输入数据并对第一输入数据执行计算操作。计算装置可包括缓冲器、缓冲存储器和计算单元。缓冲器可被配置成将第一输入数据分类成第一至第n输入特征组，并且存储该第一至第n输入特征组，每个输入特征组至少具有第一至第n特征，其中n是等于或大于2的整数。缓冲存储器可包括第一至第n存储器，并且被配置成将第一至第n输入特征组的第一至第n特征存储在第一至第n存储器中。一个输入特征组的第一至第n特征可分开存储在第一至第n存储器中。计算单元可被配置成接收存储在缓冲存储器中的第一至第n输入特征组，并且对该第一至第n输入特征组执行计算操作。

在实施例中，系统的操作方法可包括将从主机传输的第一输入数据分类成各自具有第一至第n特征的第一至第n输入特征组，以临时存储该第一至第n输入特征组，其中n是等于或大于2的整数。该操作方法可包括将第一至第n输入特征组的第一至第n特征存储在第一至第n存储器中，其中一个输入特征组的第一至第n特征分开存储在第一至第n存储器中，并且在第一至第n输入特征组中具有相同次序的特征均匀地存储在第一至第n存储器中。该操作方法可包括同时输出在第一至第n输入特征组中具有相同次序的特征。并且该操作方法可包括对第一至第n输入特征组的所输出特征执行计算操作。

附图说明