[发明专利]数据精度配置方法、装置、芯片、芯片阵列、设备及介质

说明书

本发明实施例公开了数据精度配置方法、装置、芯片、芯片阵列、设备及介质。该方法包括：获取神经网络中的第一层的待输出数据，其中，第一层包括神经网络中的最后一层之外的任意一层或多层，获取第二层的权重精度，其中，第二层为第一层的下一层，根据第二层的权重精度对第一层的待输出数据的精度进行配置。本发明实施例通过采用上述技术方案，可以灵活配置部署在人工智能芯片中的神经网络中的一层或多层的输出数据的精度，进而优化人工智能芯片的性能。

技术领域

本发明实施例涉及人工智能技术领域，尤其涉及输出数据的精度配置方法、装置、芯片、芯片阵列、设备及存储介质。

背景技术

随着大数据信息网络和智能移动设备的蓬勃发展，产生了海量非结构化信息，伴生了对这些信息高效能处理需求的急剧增长。近年来，深度学习技术发展迅速，在图像识别、语音识别以及自然语言处理等诸多领域取得了很高的准确率。但如今的深度学习研究绝大多数仍是基于传统的冯诺依曼计算机实现的，而冯诺依曼计算机由于处理器和存储器分离，在处理大型复杂问题时不仅能耗高、效率低，而且面向数值计算的特性使其在处理非形式化问题时软件编程复杂度高，甚至无法实现。

随着脑科学的发展，由于大脑相比传统的冯诺依曼计算机具有超低功耗以及高容错性等特点，且在处理非结构化信息和智能任务方面具有显著优势，借鉴大脑的计算模式构建新型的人工智能系统和人工智能芯片已经成为一个新兴的发展方向，因此，借鉴人脑发展的人工智能技术应运而生。人工智能技术中的神经网络由大量神经元构成，神经网络中通过信息的分布式存储和并行协同处理，定义基本的学习规则即可模拟出大脑的自适应学习过程，无需明确的编程，在处理一些非形式化问题时具有优势。人工智能技术可以使用大规模集成模拟、数字或数模混合的电路及软件系统，即基于神经形态器件来实现。

目前，人工智能的神经网络通常以若干神经元为一层，每一层通常对应人工智能芯片中的一个处理核。神经网络的核心计算是矩阵向量乘操作，当数据输入神经网络的一层时，计算精度一般为数据精度与权重精度(也即权重值的精度)的乘累加，且参照数据精度与权重精度中较高的精度来确定计算结果(也即当前层对应的处理核的输出数据)的精度。然而，这种输出数据的精度配置方案不够灵活，需要改进。

发明内容

本发明实施例提供了输出数据的精度配置方法、装置、芯片、芯片阵列、设备及存储介质，可以优化现有的输出数据的精度配置方案。

第一方面，本发明实施例提供了一种输出数据的精度配置方法，应用于人工智能芯片中，该方法包括：

获取神经网络中的第一层的待输出数据的精度，其中，所述第一层包括所述神经网络中的最后一层之外的任意一层或多层；

获取第二层的权重精度，其中，所述第二层为所述第一层的下一层；

根据所述第二层的权重精度对所述待输出数据的精度进行配置。

第二方面，本发明实施例提供了一种输出数据的精度配置装置，集成于人工智能芯片中，该装置包括：

待输出数据获取模块，用于获取神经网络中的第一层的待输出数据的精度，其中，所述第一层包括所述神经网络中的最后一层之外的任意一层或多层；

权重精度获取模块，用于获取第二层的权重精度，其中，所述第二层为所述第一层的下一层；

精度配置模块，用于根据所述第二层的权重精度对所述待输出数据的精度进行配置。

第三方面，本发明实施例提供了一种人工智能芯片，所述人工智能芯片内包含多个处理核，每个处理核对应神经网络中的一层，所述多个处理核中的至少一个处理核用于实现本发明实施例提供的输出数据的精度配置方法。

第四方面，本发明实施例提供了一种人工智能芯片阵列，所述人工智能芯片阵列包括至少两个如本发明实施例提供的人工智能芯片。