[发明专利]基于Transformer的深度学习电池荷电状态预估系统及方法

权利要求书

1.基于Transformer的深度学习电池荷电状态预估系统，其特征在于：包括，

全连接神经网络，其用于对电池特征序列R及电池初始状态序列S进行处理并输出output_fc；

其中，电池特征序列R的特征包括电芯材质、生产日期、电芯数及BMS型号，其对于类型类特征进行Embedding操作；

其中，电池初始状态序列S中的特征包括初始SOC，初始循环次数以及初始SOH；

其中，output_fc为全连接神经网络的输出矩阵；

Transformer神经网络，其用于对电池充放电过程序列T进行处理并输出output_transformer；

其中，电池充放电过程序列T表征的为电池充放电过程中的电压、电流、温度和压差数据的时间序列；

其中，output_transformer为Transformer神经网络的输出矩阵；

线性融合层，其用于对output_fc和output_transformer进行拼接并加权计算以获取预测的电池SOC，以及

输出层，其用于输出

2.根据权利要求1所述的基于Transformer的深度学习电池荷电状态预估系统，其特征在于：全连接神经网络具备多个全连接层，对于第l层全连接层，其公式为：h^l+1＝σ(W^lh^l+b^l)；其中，W^l和b^l分别表示第l层全连接层的权重项和偏置项，h^l为第l层全连接层的输入，h^l+1为第l层全连接层的输出并作为第l+1层全连接层的输入，σ为激活函数。

3.根据权利要求1所述的基于Transformer的深度学习电池荷电状态预估系统，其特征在于：Transformer神经网络具有Encoder网络和Decoder网络，Encoder网络具有Encoder多头注意力机制层，Decoder网络具有Decoder多头注意力机制层。

4.根据权利要求3所述的基于Transformer的深度学习电池荷电状态预估系统，其特征在于：Encoder多头注意力机制层包括多个Encoder自注意力机制层和一个全连接层，每个Encoder自注意力机制层均具有参数矩阵W^Q、W^K和W^V；对于Encoder网络中的第m个Encoder自注意力机制层，其参数矩阵分别为和

所述第m个Encoder自注意力机制层用于获取如下矩阵：

其中，X_in为Encoder多头注意力机制层的输入，Encoder多头注意力机制层具有至少1个，第一个Encoder多头注意力机制层的输入即为电池充放电过程序列T，且上一个Encoder多头注意力机制层的输出作为下一个Encoder多头注意力机制层的输入；

所述第m个Encoder自注意力机制层在获取Q_m、K_m和V_m后，其通过如下计算获取输出矩阵：

其中，d_k为参数矩阵的维度。