[发明专利]一种快速灵活全纯嵌入式神经网络广域寻优训练方法在审
申请号: | 202210125273.3 | 申请日: | 2022-02-10 |
公开(公告)号: | CN114548400A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 汪涛;谭洪宇;高子雄;何晓斌 | 申请(专利权)人: | 中山大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06F17/13 |
代理公司: | 深圳市创富知识产权代理有限公司 44367 | 代理人: | 高冰 |
地址: | 510275 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 快速 灵活 嵌入式 神经网络 广域 训练 方法 | ||
1.一种快速灵活全纯嵌入式神经网络广域寻优训练方法,其特征在于:包括如下步骤:
步骤1,确定需要求解的微分方程,在定义域内采样获得训练数据和测试数据;
步骤2,构建神经网络模型,嵌入基于分段有理逼近的激活函数层;
步骤3,调整超参数,训练神经网络模型;
步骤4,进行模型预测,预测结果若满足要求,则模型训练成功,结束训练;否则返回步骤3。
2.根据权利要求1所述一种快速灵活全纯嵌入式神经网络广域寻优训练方法,其特征在于:步骤1中微分方程为Burgers方程。
3.根据权利要求1所述一种快速灵活全纯嵌入式神经网络广域寻优训练方法,其特征在于:步骤2构建的神经网络模型包括输入层、四个全连接层、四个激活函数层和输出层。
4.根据权利要求1所述一种快速灵活全纯嵌入式神经网络广域寻优训练方法,其特征在于:步骤2中的分段有理逼近的激活函数的构造如下:
假设在某个点x0处使用单点帕德近似方法逼近函数f(x),单点帕德近似函数形式如下:
其中pk和qk是需要求出的系数,L表示分子中x的最高阶次,M表示在分母中的x最高阶次。当L+M为常数时,取L=M时,分子与分母通过以下方式求解。设L=M=n,首先求解线性方程Aq=b,得到(q1,q2,q3,...,qn)的值,其中:
通过下式求出(p0,p1,p2,...,pn)的值:
p0=a0,q0=1,
多点帕德逼近则是单点帕德逼近的推广形式。设被逼近函数f(x),如果在n+1个插值点x0,x1,x2,...,xn处已知其函数值,则有有理分式:
其中L+M=n,u[L/M](x)是最高阶次为L的多项式,v[L/M](x)是最高阶次为M的多项式:
这里,u[L/M](x)与v[L/M](x)是需要通过均差构造的多项式函数;
首先,f(x)的均差定义如下:
令fi,j为f[xi,xi+1,...,xj],j≥i;则,u[L/M](x)可通过以下方式计算:
同时,v[L/M](x)可通过以下方式计算:
本发明使用的分段帕德逼近是通过给出各个插值点、插值点处的函数值和从一阶到m阶的导数值,基于多点帕德逼近来构造各分段,是多点帕德逼近的一种特殊形式,构造方式如下。
设被逼近函数为f(x),且在n+1个插值点x0,x1,x2,...,xn处已知:
其中表示在xi处f(x)的τ阶导数值;
任取一段区间[xk,xk+1],构造帕德逼近表达式:
其中L+M+1=n,和的表达形式已在公式(8)与(9)中给出。其具体计算过程需要考虑2m+2个点构成的等价集合:
根据公式(8)和公式(9),均差fi,j=f[zi,zi+1,...,zj],0≤i≤j≤2m+1;
由均差的性质和公式(10)得出:
当0≤i≤m且m+1≤j≤2m+1时,有递推公式如下:
当i+1≥m+1时,根据公式(14)直接求出;
当j-1≤m时,根据公式(13)直接求出;
把求得的fi,j带入到公式(8)和公式(9)中,即求出和进而求出由分段帕德逼近构造的函数rL/M(x)表示为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学,未经中山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210125273.3/1.html,转载请声明来源钻瓜专利网。