[发明专利]一种基于MSVL的BP神经网络的构建和训练方法及系统

权利要求书

1.一种实施基于MSVL的BP神经网络的构建和训练方法的计算机设备，其特征在于，所述实施基于MSVL的BP神经网络的构建和训练方法的计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如下步骤：

根据BP神经网络基本的层次化结构和属性行为特征，构建基于MSVL的BP神经网络的底层结构方法库；根据用户的定制需求，利用结构方法库中的MSVL结构体，构建BP神经网络的初始架构；读取样本数据，利用结构方法库中MSVL方法，对初始架构进行训练，得到BP神经网络的形式化架构；

其中，基于MSVL的BP神经网络的构建和训练方法的结果BP神经网络框架直接应用于神经网络系统的形式化验证；使用形式化语言MSVL开发具有多种行为的BP神经网络架构，支持对多方面的性质进行验证；

利用形式化语言MSVL进行BP神经网络开发的方法根据用户的定制需求，自动化构建与训练BP神经网络的形式化架构；架构涵盖矩阵运算、反向传播和权值更新的多种神经网络系统的基本行为，直接用于模型检测和插桩验证的形式化验证技术，支持与行为相关的多方面性质验证，保障系统安全可信性；

所述基于MSVL的BP神经网络底层的结构方法库，包括：

(1)神经网络层次化结构体：

①矩阵结构体；

②BP神经网络层次结构体；

③数据集结构体；

④用户需求结构体；

⑤优化参数结构体；

(2)神经网络属性行为方法：

①基础运算方法；

②权值初始化方法；

③激活函数方法；

④损失函数方法。

2.如权利要求1所述的实施基于MSVL的BP神经网络的构建和训练方法的计算机设备，其特征在于，所述层次化的神经网络结构包含两层实体，所述底层的基础计算单元层以及层次结构层和网络级结构层所组成的上层；与结构相对应，所述神经网络行为还包含两层实体，所述底层的基础操作行为层以及上层的预测和训练行为层，构成基于MSVL的BP神经网络底层的结构方法库。

3.如权利要求1所述的实施基于MSVL的BP神经网络的构建和训练方法的计算机设备，其特征在于，所述用户可根据自己的需求构建出形式化的BP神经网络结构并进行预测或者训练，包括：

(1)训练、测试样本数；

(2)样本特征数；

(3)BP神经网络隐藏层数；

(4)各层神经元个数；

(5)各层激活函数；

(6)分类类别数；

(7)损失函数；

(8)权值初始化方式；

(9)训练迭代次数。

4.如权利要求1所述的实施基于MSVL的BP神经网络的构建和训练方法的计算机设备，其特征在于，根据用户需求产生BP神经网络，包括：

(1)构建神经网络的基本架构：

①用户需求读取；

②数据集构建；

③神经网络初始化；

(2)自动化地训练神经网络：

①正向传播；

②反向传播；

③权值更新。

5.如权利要求1所述的实施基于MSVL的BP神经网络的构建和训练方法的计算机设备，其特征在于，所述基于MSVL的BP神经网络的构建和训练方法，还包括：BP神经网络的行为方法中，损失函数、激活函数和权值初始化方式的选择均采用整型值映射规则，且对核心的运算方法矩阵乘法经过多轮优化包括寄存器优化、多级缓存优化以及稀疏优化。