[发明专利]用于神经网络的残差量化

摘要

一种用于在神经网络中提供量化精度的操作的仿真的方法和装置被公开。在一些示例中，量化精度的操作以块浮点格式被执行，在块浮点格式中张量的值共享共同指数。可以基于各种输入指标来使用用于选择较高精度或较低精度的技术。当转换为量化的张量时，产生残值张量。在一个实施例中，与从普通精度浮点数到量化的张量的转换相关联的误差值被用于确定在点积计算中是否使用残差张量。使用残差张量可以提高来自节点的输出的精度。对是否使用残差张量的选择取决于各种输入指标，包括误差值、层编号、指数值、层类型等。