[发明专利]神经网络装置及其操作方法、应用处理器

说明书

提供了神经网络装置及其操作方法、应用处理器。一种用于执行神经网络操作的神经网络装置，包括：浮点运算电路，该浮点运算电路被配置为对多个浮点数据对中的每一个执行点积操作，其中，浮点运算电路被配置为：在点积操作，基于从分别与浮点数据对相对应的多个指数部分加法操作结果中确定的最大值，将分别与浮点数据对相对应的多个分数部分乘法操作结果对齐移位。

相关申请的交叉引用

本申请基于并要求2020年4月7日在韩国知识产权局提交的韩国专利申请No.10-2020-0042410和2020年12月24日在韩国知识产权局提交的韩国专利申请No.10-2020-0183519的优先权，其各自的公开内容通过引用整体并入本文。

技术领域

发明构思涉及神经网络，并且更具体地，涉及包括浮点运算电路的神经网络装置以及/或者该神经网络装置的浮点运算方法。

背景技术

神经网络可以指的是对与动物的大脑相对应的生物网络进行建模的计算架构。随着神经网络技术的最新发展，正在积极地进行在各种类型的电子系统中使用基于神经网络操作的神经网络装置来分析输入数据和/或提取有效信息的研究。

神经网络装置需要用于复杂输入数据的大量操作。为了使神经网络装置实时分析输入并提取信息，需要一种能够有效处理神经网络的操作的技术。特别地，由于诸如智能电话之类的低功率高性能系统具有有限的资源，因此需要一种能够改善人工神经网络的性能(例如使人工神经网络的性能最大化)同时减少处理复杂输入数据所需的操作量的技术。

发明内容

发明构思提供了包括浮点运算电路的神经网络装置以及/或者该神经网络装置的浮点运算方法。

根据发明构思的一些示例实施例，提供了一种神经网络装置，神经网络装置包括被配置为对多个浮点数据对中的每一个执行点积操作的处理电路。处理电路被配置为通过对分别与浮点数据对相对应的多个分数部分乘法操作结果进行对齐移位来执行点积操作，对齐移位基于从分别与浮点数据对相对应的多个指数部分加法操作结果中确定的第一值。

根据发明构思的一些示例实施例，提供了一种操作神经网络装置的方法，方法包括从存储器接收多个浮点数据对，以及对多个浮点数据对中的每一个执行点积操作。点积操作的执行包括：对多个浮点数据对中的每一个执行指数部分加法运算；对多个浮点数据对中的每一个执行分数部分乘法操作；从分别与多个浮点数据对中的每一个相对应的指数部分加法操作结果中确定第一值；以及基于第一值，将分别与多个浮点数据对中的每一个相对应的分数部分乘法操作结果进行对齐移位。

根据发明构思的一些示例实施例，提供了一种包括神经网络装置的应用处理器，神经网络装置被配置为对多个浮点数据对中的每一个执行点积操作，浮点数据对包括操作参数和特征值。神经网络装置被配置为通过将与浮点数据对相对应的多个分数部分乘法操作结果共同地进行对齐移位和求和来执行点积操作，对齐移位和求和基于分别与浮点数据对相对应的多个指数部分加法操作结果。

附图说明

通过以下结合附图的详细描述，将更清楚地理解发明构思的一些非限制性示例实施例，在附图中：

图1是示出根据发明构思的一些示例实施例的神经网络系统的示意框图；

图2是示出神经网络结构的示例的示图；

图3A至图3C是用于描述浮点数据格式的类型的示例的图，并且图3D是用于描述整数数据的示例的示图；

图4是根据发明构思的一些示例实施例的操作神经网络装置的方法的流程图；

图5是示出根据发明构思的一些示例实施例的神经网络系统的操作的示图；

图6是示出根据发明构思的一些示例实施例的神经网络装置的示图；