[发明专利]一种二叉树滤波器Transformer模型及其用于轴承故障诊断的方法在审
申请号: | 202210156171.8 | 申请日: | 2022-02-21 |
公开(公告)号: | CN114662529A | 公开(公告)日: | 2022-06-24 |
发明(设计)人: | 樊薇;潘立人;焦之远;许桢英;宋向金;袁野 | 申请(专利权)人: | 江苏大学 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 212013 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 二叉 滤波器 transformer 模型 及其 用于 轴承 故障诊断 方法 | ||
1.一种二叉树滤波器Transformer模型,其特征在于:包括分词器、编码器和分类器,其中通过分词器提取振动信号,得到序列z1,之后序列z1依次经由编码器和分类器处理得到输出结果;
所述分词器中设有一个二叉树滤波器组:
其中h(n)为标准低通滤波器,截止频率j是虚数单位,hL(n)的频带范围是[0,1/4Fs],hH(n)的频带范围是[1/4Fs,1/2Fs],Fs为采样频率;
对于输入的信号x(n),所述分词器包括如下处理步骤:
S1,利用所述二叉树滤波器组将信号x(n)分解出k层,其中k为log2(n)的取整;
S2,对第k层的所有子信号取实部,之后计算均方根
S3,根据获取片段信息S和位置信息K,并求出序列z1:
EA=embed(S,WS)
EK=embed(K,WP)
其中dmodel为嵌入维数。
2.根据权利要求1所述的二叉树滤波器Transformer模型,其特征在于:所述编码器包括N个Transformer块,每一个Transformer块中含有两个子模块,分别是多头自注意力子模块和前向网络子模块,对于序列z有:
其中,序列zl表示为第l层Transformer块的输入,相应的第1层的输入即为序列z1,Attention(·)表示多头自注意力子模块,z′l为多头自注意力子模块的输出,同时也为FFn(·)的输入,FFn(·)表示前向网络子模块,同时zl+1作为第l层前向网络子模块的输出,也为第l+1层多头自注意力模块的输入,layernorm为取残差并归一化。
3.根据权利要求2所述的二叉树滤波器Transformer模型,其特征在于:所述多头自注意力子模块具体由查询矩阵Qs=zWjq,键矩阵Ks=zWjk,值矩阵Vs=zWjv组成,相应公式为:
其中h为注意力头数,j∈[1,h],Wjq、Wjk和Wjv分别表示:施加于序列z的第j种线性映射以得到不同版本的查询矩阵、键矩阵和值矩阵,dk=dmodel/h,softmax(·)表示逻辑回归的泛化,concat(·)为对矩阵进行相连,headj为第j个A(Q,K,V),Ws为j个Wjq、Wjk、Wjv的串联。
4.根据权利要求2所述的二叉树滤波器Transformer模型,其特征在于:所述前向网络子模块表示为:
FFn(x)=GeLU(0,w1x+b1)w2+b2
其中GeLU(·)为激活函数,w1和w2表示进行两次线性变化的权重b1和b2表示进行两次线性变化的偏置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏大学,未经江苏大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210156171.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:土壤无机碳去除系统及处理方法
- 下一篇:一种生物试验用生物细胞培养皿组件
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法