[发明专利]一种基于复数神经网络和注意力机制的模拟信号识别方法在审
申请号: | 202110885480.4 | 申请日: | 2021-08-03 |
公开(公告)号: | CN113553988A | 公开(公告)日: | 2021-10-26 |
发明(设计)人: | 史清江;彭颖;董益宏 | 申请(专利权)人: | 同济大学 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 上海科律专利代理事务所(特殊普通合伙) 31290 | 代理人: | 叶凤 |
地址: | 200092 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 复数 神经网络 注意力 机制 模拟 信号 识别 方法 | ||
一种基于复数神经网络和注意力机制的模拟信号识别方法,特征在于,其包括基于复数神经网络和注意力机制的模型设计方法及其复数元学习训练方法。本发明通过将复数神经网络和多头注意力机制应用于元学习模型,使得模型能更好地捕捉训练样本的类别特征,达到更好的分类效果和稳定的表现;同时,模型可以应用于大多数信号分类任务,并在少量的训练样本下也能取得较好的测试结果。
技术领域
本发明涉及模拟信号识别领域。
背景技术
信号识别在深度学习领域的成功需要使用大量的数据。而用传统的监督学习方法训练的深度学习模型在只有少量数据或需要适应未见过的任务或时间变化的任务时,往往表现不佳。在实际的信号识别任务中,收集和注释丰富的数据的代价是很昂贵的,尤其是对于一些罕见但重要的信号。另一方面,由于噪音的存在,在实际场景中,深度神经网络必须适应信噪比的实时变化。
在实际的信号识别任务中,模拟信号包括电流、电压、功率。
在复数神经网络中配备注意力机制的元学习方法还没有被研究。
发明内容
本申请原理将注意力机制和复值神经网络加入元学习中。
本发明公开了一种无线信号识别方法,包括基于复数神经网络和注意力机制的模型设计及其复数元学习训练方法,将模型首次取名为CAMEL(Complex-valued AttentionalMEta Learner),所述CAMEL是由复数神经网络和复数多头注意力机制组成。通过将注意力机制扩展到复数域上,利用复数神经网络和注意力机制让模型纳入信号的先验知识,即复数域信息和时域信息,从而提高模型在信号分类识别问题的表现和准确率。而复数元学习训练方法能够使CAMEL通过少量训练样本的学习,在未接触过的新类的识别中达到很高的准确率,具有较强的泛化能力,从而解决小样本的信号分类问题。
本发明目的在于克服现有技术的不足,公开一种基于复数神经网络和注意力机制的模拟信号识别方法,特征在于,其包括基于复数神经网络和注意力机制的模型设计方法及其复数元学习训练方法。
具体实现包括以下步骤:
S1:对模拟信号数据预处理,筛选信噪比,构造训练集和测试集;模拟信号的度量或者模拟信号的特征包括电流、电压、功率,筛选信噪比,将模拟信号样本输入下文的CAMEL网络模型进行训练或者测试;
S2:设计CAMEL(Model-Agnostic Meta-Learning)网络模型,将S1预处理后的数据输入进CAMEL网络模型中训练,训练优化网络模型后并用于预测识别的结果;
所述的CAMEL网络模型,包括5个复数卷积块,在第二个复数卷积块与第三个复数卷积块之间构造一个复数值的多头注意力机制,并在5个复数卷积块的复值卷积操作完成后进行全连接并线性映射到5个类别,最后将复数通过取实部的方式转换为实数。
所述的方法,其特征在于,所述S2包括步骤:
S2.1:首先需要定义复数卷积的方法,根据复数运算的定义,复数卷积输出的实部为输入的实部的卷积减去输入的虚部的值的卷积,输出的虚部的值为输入的实部的卷积加输入的虚部的值的卷积,结合实部和虚部即可得到输出的复数值;
S2.2:输入模块;
输入模拟信号数据经过1×1卷积,输出通道为128,使数据的第一维从1变为128;
S2.3:通过第一复数卷积块;
其中复数卷积为1×3卷积,输入通道和输出通道均为128;复数卷积后,输出通过复数激活(ReLU)函数,调用复数激活(ReLU)函数后再进行基于复数的批归一化;
S2.4:通过第二复数卷积块;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同济大学,未经同济大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110885480.4/2.html,转载请声明来源钻瓜专利网。