[发明专利]神经网络加速器硬件的验证系统与验证方法

说明书

一种神经网络加速器硬件的验证系统与验证方法。神经网络加速器硬件的验证系统包括神经网络图形编译器及执行效能评估器。神经网络图形编译器用以接收待验证神经网络图形。神经网络图形编译器根据硬件信息及操作模式，将待验证神经网络图形转换为建议推论神经网络图形。执行效能评估器用以接收建议推论神经网络图形，并依据建议推论神经网络图形的硬件计算抽象信息，计算出神经网络加速器硬件的预估效能。

技术领域

本公开是有关于一种神经网络加速器硬件的验证系统与验证方法。

背景技术

由于神经网络(Neural Network,NN)在计算机视觉辨识的成功，使得神经网络应用日渐广泛，进而发展出一种神经网络加速器硬件，用以加速神经网络应用。

在传统的神经网络软件与神经网络加速器硬件的开发过程中，必须耗费相当长的时间进行训练出获得真实神经网络图形(Real NN Graph)与训练得到的真实参数组(RealParameters)。同时使用真实神经网络图形和训练得到的真实参数组才能够进行神经网络加速器硬件的执行速度与正确性验证。然而，这必须花费相当多的时间进行训练。在神经网络软件开发/搜寻过程中，研究人员希望在神经网络微调一些内容后，就能够赶快知道神经网络加速器硬件的执行速度与正确性，以免徒然耗费大量的时间与成本进行训练之后，才获知硬件的执行速度不佳，才能再进行调整。

此外，传统上通过真实神经网络图形与训练得到的真实参数组进行神经网络加速器硬件的验证时，验证完整度有限，无法验证边缘案例(Edge Cases)或边角案例(CornerCases)，而仅具有较低的验证覆盖率。

发明内容

本公开有关于一种神经网络加速器硬件的验证系统与验证方法。

根据本公开的一实施例，提出一种神经网络加速器硬件的验证系统。神经网络加速器硬件的验证系统包括神经网络图形编译器(Neural Network Graph Compiler)及执行效能评估器(Execution Performance Estimator)。神经网络图形编译器用以接收待验证神经网络图形(Neural Network Graph)。神经网络图形编译器根据硬件信息及操作模式，将待验证神经网络图形转换为建议推论神经网络图形(Suggested Inference NeuralNetwork Graph)。执行效能评估器用以接收建议推论神经网络图形，并依据建议推论神经网络图形的硬件计算抽象信息，计算出神经网络加速器硬件的预估效能。

根据本公开的另一实施例，提出一种神经网络加速器硬件的验证方法。神经网络加速器硬件的验证方法包括以下步骤。根据硬件信息及操作模式，将待验证神经网络图形(Assumed Neural Network Graph)转换为建议推论神经网络图形(Suggested InferenceNeural Network Graph)。依据建议推论神经网络图形的硬件计算抽象信息，计算神经网络加速器硬件的预估效能。

为了对本公开的上述及其他方面有更佳的了解，下文特举实施例，并配合附图详细说明如下。

附图说明

图1绘示根据一实施例的神经网络加速器硬件的验证系统的输入与输出的示意图。

图2绘示根据一实施例的神经网络加速器硬件的验证系统的方块图。

图3绘示根据一实施例的神经网络加速器硬件的验证方法的流程图。

图4示例性说明待验证神经网络图形编译为建议推论神经网络图形的一示例。

图5绘示根据另一实施例的神经网络加速器硬件的验证系统的方块图。

符号说明

100:验证系统

110:神经网络图形编译器

120:执行效能评估器