[发明专利]基于Bert的雷达目标识别方法

权利要求书

1.一种基于Bert的雷达目标识别方法，其特征在于，包括以下步骤：

S1，收集数据并划分训练集和测试集，通过雷达采集的HRRP数据，需要对每个类别进行采样，分别选出训练集和测试集，之后进行合并，保证每个类别的数据形式都有被采样到，训练集和测试集比例保持在7:3，将训练数据集记为D＝{(x_i,y_k)}_{i∈[1,n],k∈[1,c]}，其中x_i表示第i个样本，y_k表示样本属于第k类，一共采集了c类目标，n表示样本总数；对数据进行强度归一化和重心对齐处理；

S2，对HRRP数据进行幂次变换，并使用注意力机制；

S3，用Bert模型处理幂次变换的输出，提取更加深层的特征；

S4，搭建分类器，对HRRP目标分类，对Bert模型的输出，再次使用注意力机制的思想，将更有效的特征进行保留，最后采用softmax对网络的输出进行分类；

S5，将经过S1处理后的HRRP测试集送入S2、S3、S4步骤中已训练完成的模型中进行测试；

所述步骤S3进一步包括：

S301，确定使用Bert的层数，构建Bert模型；

S302，假设输入为X的形状为[batch_size,N]，batch_size为每个批次的数目，N为各时间点维数，先对数据进行替换操作，并且为它加入时序信息，即位置信息，Bert中按照特征长度，会随机初始化同样形状的数据，作为位置信息，在训练中进行学习；

S303，多头注意力机制，提取有效特征，多头注意力机制将通过嵌入层中得到的M维特征，分成12组，在每一组中进行自注意力算法，在将12组的结果进行合并，嵌入层中的输出X，X中每一组分别乘以三个随机初始化的矩阵W_q，W_k，W_V得到Q，K，V三个矩阵，进行如下计算得到Z_i：

Z_i表示每一组的计算结果，再将[Z₀...Z₁₁]按列堆叠起来，乘以一个随机初始化的W，即可得到最终此层的输出Z；

S304，前馈层中，将N维特征，映射到高维，再从高维映射到低维，进一步保留有用的信息；

S305，残差和层归一化，Add层就是残差连接模块，因为要叠加深层神经网络，残差结构可以很好地消除层数加深所带来的信息损失问题，也可以将损失快速回传，避免梯度消失，加入了层归一化，使训练过程更加稳定：

式中x∈R^N×C×H×W，层归一化对每个样本C，H，W维度上的数据求均值和标准差，保留N维度，μ为均值，为方差，α和β为参数，ε为一个非常小的值；

S306，将S302到S305组在一起为一层Bert，总共堆叠12层；

所述步骤S4进一步包括：

S401，Bert模块之后，Output的形状为[batch_size，M，N]，在分类器中，应用注意力机制：

α_i为M这一维度中，每一维的权重，L(i)为每一维特征，根据每一维特征的重要程度的不同，去学习不同的权重；

S402，通过softmax层对特征F_ATT进行分类，若训练集中所包含的目标总数为C，测试HRRP样本X_test对应于目标集中第i类目标的概率表示为：

其中，exp(.)表示取指数运算，F_s(i)指的是向量F_s中的第i个元素，F_s＝W_sF_ATT，W_s是向量F_s的权重矩阵，通过最大后验概率将测试HRRP样本X_test分类到最大目标概率c₀中：

S403，在所提模型的参数训练过程中，采用交叉熵作为代价函数，由代价函数在训练中计算损失，更新模型参数：

其中N为一个批次里的训练样本数，z(i)用来表示第n个训练样本的类别，P(i|x_train)表示训练样本对应于第i个类别的概率值。