[发明专利]基于Transformer的人脸识别方法

权利要求书

1.一种基于Transformer的人脸识别方法，其特征在于，包括如下步骤：

S1、获取带有标签的人脸训练图像数据；

S2、先经过卷积层进行通道信信息融合；

S3、经过6层Transformer Enconder Block编码；

S4、经过卷积层进行降维减少参数；

S5、经过6层Transformer Decoder Block编码；

S6、经过损失函数优化输出数据。

2.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S1中，采用MS-Celeb-1M数据集进行训练。

3.根据权利要求2所述的基于Transformer的人脸识别方法，其特征在于，在S1中，采用LFW数据集进行泛化测试的人脸模板分析比对法。

4.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S2中，采用的卷积层，包括Conv n×n和Conv 1×1两部分。

5.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S3中，从图像X∈R^W×W×C中提取出补丁大小为P、步长为S的滑动面片,得到一系列平坦的二维补丁(W,W)是原始图像的分辨率,而(P,P)是每个图像面片的分辨率，有效序列长度就是面片数其中，p是零填充数量；

可学习的嵌入被连接到补丁嵌入，并且它在Transformer编码器输出的状态是最终的人脸图像嵌入，如公式2所示；然后，将位置嵌入添加到补片嵌入中，以保留位置信息，最终嵌入：

用作Transformer的输入，

将编码好的参数送入

6.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S4中，采用的卷积层，包括Conv n×n和Conv 1×1两部分。

7.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S5中，包括多头自注意力MSA和全连接MLP块，在每个块之前经过层归一化，在每个块之后具有剩余连接；

Transformer的关键块之一，MSA，是由k与并行的自注意SA共同组成的，

其中，x∈R^(N+1)×D是输入序列,是线性变换的权重矩阵,是注意力分布图；MSA的输出是k注意头部输出的连接；

MSA(z)＝[SA₁(z)；SA₂(z)；…；SA_k(z)]U_msa, (4)

其中，

8.根据权利要求1所述的基于Transformer的人脸识别方法，其特征在于，在S6中，损失函数为：

其中，y是标签，P_y是将x归入y类的预测概率，C是身份数字，W_j是最后完全连接的层的重量的j-th列，b_j∈R^c是偏差。

9.根据权利要求8所述的基于Transformer的人脸识别方法，其特征在于，基于Softmax的损失函数去除了偏置项并进行了W_j^TX＝scosθ_j变换,并在cosθ_yi项中加入较大的余量；基于Softmax的最终的损失函数可以表示为：

其中，在CosFace中，f(θ_yi)＝cosθ_yi-m。