[发明专利]执行确定性推理的组合处理装置、芯片和方法

说明书

本申请涉及执行确定性推理的组合处理装置，包括指令提取模块、指令预解码模块、指令解码模块、指令执行模块、存储器访问模块和寄存器回写模块；指令提取模块从指令存储器中读取指令，并更新程序计数器以指向下一条指令；指令预解码模块会将压缩指令解码为本机指令，指令解码模块访问寄存器堆并确定分支控制；指令执行模块将为指令执行向量计算或标量计算得到结果，为Load/Store指令访问已访问的内存，并计算分支和跳转并根据其预期结果进行检查；在存储器访问模块中，流水线的内存访问完成；寄存器回写模块将执行阶段的结果写入寄存器堆。本申请还涉及包含上述组合处理装置的确定性神经网络算法的运算装置、计算芯片及其应用。

技术领域

本申请涉及一种执行确定性推理的组合处理装置、芯片和方法，适用于计算机技术领域。

背景技术

人工神经网络，简称神经网络，在机器学习和认知科学领域，是一种模仿生物神经网络的结构和功能的数学模型或计算模型，用于对函数进行估计和近似。神经网络由大量的节点(或称神经元)之间相互连接构成。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性，推动了信息技术和人工智能领域不断的发展。

神经网络虽然已经在诸多领域取得广泛的成功，然而在现阶段，大部分神经网络算法在设计时并没有考虑到数据安全和计算可验证性等问题。第一，现有神经网络算法没有考虑运算的可重现性和一致性，其运算结果在不同的架构甚至相同的计算环境下存在不一致的可能。这种不确定性是多因素的，包括浮点数运算的舍入误差和并行计算中的竞争等。第二，现有算法不具备对训练数据和推理结果的安全保护的功能。受此影响，神经网络算法在金融、可信计算、区块链、智能合约等安全需求更高的领域的应用受到了很大的限制。实现确定性的神经网络计算，确保神经网络模型的计算的数据安全、可重现、可信任，已经成为了行业内外的迫切需求

发明内容

本发明的目的是提供一种能够以确定顺序执行神经网络计算的计算芯片的运算装置和方法，能够消除神经网络计算过程中的运算舍入误差和并行竞争等因素，避免神经网络计算出现不一致性的情况，解决深度神经网络计算的可验证性问题。

根据本申请的一种执行确定性推理的组合处理装置，包括指令提取模块、指令预解码模块、指令解码模块、指令执行模块、存储器访问模块和寄存器回写模块；其中，指令提取模块从指令存储器中读取指令，并更新程序计数器以指向下一条指令；指令预解码模块会将压缩指令解码为本机指令，指令解码模块访问寄存器堆并确定分支控制；指令执行模块将为指令执行向量计算或标量计算得到结果，为Load/Store指令访问已访问的内存，并计算分支和跳转并根据其预期结果进行检查；在存储器访问模块中，流水线的内存访问完成；寄存器回写模块将执行阶段的结果写入寄存器堆。

根据本申请的一种确定性神经网络算法的计算芯片的运算装置，包括：

整型向量运算器，用于进行整数向量的运算；

执行管道，用于通用运算和指令的读取、译码和执行；

存储单元，用于提供所述执行管道访问的存储单元，以及存储所述整型向量运算器执行各指令所用之输入值、输出值和临时值；

所述执行管道是如上所述的组合处理装置。