[发明专利]一种应用于神经网络芯片的预测方法和预测装置

摘要

本发明提供了一种应用于神经网络芯片的预测方法和装置、服务器及可读存储介质。该方法包括：对当前层的M个输出数据进行划分，得到当前层的M个输出数据分布区间；对M个输出数据分布区间中的每个输出数据分布区间内的输出数据进行统计，得到每个输出数据分布区间内的输出数据的数量占M个输出数据的总体数量的比率；基于M个输出数据分布区间对应的比率和预设的比特宽度，对M个输出数据进行比特宽度约束，得到M个输出数据分布区间中的N个分布区间的第一起始比特和第一终止比特；以及基于第一起始比特和第一终止比特，对当前层的M个输出数据进行比特宽度约束，以实现神经网络芯片的预测。本发明降低了数据带宽，并进一步提高了计算效率。

主权项

一种应用于神经网络芯片的预测方法，其特征在于，所述方法包括：在神经网络训练过程中，对当前层的M个输出数据进行划分，得到所述当前层的M个输出数据分布区间；对所述当前层的M个输出数据分布区间中的每个输出数据分布区间内的输出数据进行统计，得到所述每个输出数据分布区间内的输出数据的数量占所述M个输出数据的总体数量的比率；基于所述M个输出数据分布区间对应的比率和预设的比特宽度，对所述当前层的M个输出数据进行比特宽度约束，得到所述M个输出数据分布区间中的N个分布区间的第一起始比特和第一终止比特，其中所述比特宽度为所述第一终止比特与所述第一起始比特之间的距离，所述N个分布区间对应的比率满足预设规则；以及在神经网络预测过程中，基于所述第一起始比特和所述第一终止比特，对所述当前层的M个输出数据进行比特宽度约束，以实现所述神经网络芯片的预测。