[发明专利]基于FPGA的卷积神经网络训练系统及方法有效
申请号: | 201910060523.8 | 申请日: | 2019-01-22 |
公开(公告)号: | CN109902802B | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 张敏;魏小淞;李林鹏;赵伟;秦红波;王海 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06K9/62 |
代理公司: | 西安嘉思特知识产权代理事务所(普通合伙) 61230 | 代理人: | 张捷 |
地址: | 710071*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 fpga 卷积 神经网络 训练 系统 方法 | ||
1.一种基于FPGA的卷积神经网络训练系统,其特征在于,包括:
核心处理模块,用于提供第一训练集数据并初始化卷积神经网络的第一网络参数,以及接收第二网络参数误差;
输入数据转换模块,用于分别对所述第一训练集数据和所述第一网络参数进行处理得到第二训练集数据和第二网络参数;
前向计算引擎模块,用于对所述第二训练集数据和所述第二网络参数进行处理得到隐层数据和预测误差;
反向计算引擎模块,用于对所述隐层数据、所述第二网络参数和所述预测误差进行处理得到所述第一网络参数误差;
输出数据转换模块,用于对所述第一网络参数误差进行处理得到所述第二网络参数误差。
2.根据权利要求1所述的基于FPGA的卷积神经网络训练系统,其特征在于,还包括内存模块,所述内存模块与所述核心处理模块连接,用于存储所述第一训练集数据和所述第一网络参数。
3.根据权利要求1所述的基于FPGA的卷积神经网络训练系统,其特征在于,所述前向计算引擎模块包括与多个所述卷积神经网络相对应的前向子模块,所述前向子模块包括:第一参数控制器、第一传播控制器、前向输入缓存模块、第一参数缓存模块以及第一计算模块;
所述第一参数控制器分别与所述输入数据转换模块、反向计算引擎模块连接;所述第一传播控制器与所述输入数据转换模块连接;所述第一计算模块与所述反向计算引擎模块连接;
所述第一参数控制器分别与所述第一参数缓存模块、所述第一计算模块连接;
所述第一传播控制器分别与所述前向输入缓存模块、所述第一计算模块连接;
所述第一参数缓存模块与所述第一计算模块连接。
4.根据权利要求3所述的基于FPGA的卷积神经网络训练系统,其特征在于,所述反向计算引擎模块包括多个与所述前向子模块相对应的反向子模块,所述反向子模块包括:第二参数控制器、第二传播控制器、反向输入缓存模块、前向数据缓存模块、第二参数缓存模块和第二计算模块;
所述第二参数控制器分别与所述前向计算引擎模块、所述输出数据转换模块连接;所述第二传播控制器分别与所述前向计算引擎模块连接;所述第二计算模块与所述输出数据转换模块连接;
所述第二传播控制器分别与所述前向数据缓存模块、所述反向输入缓存模块连接;
所述第二参数缓存模块分别与所述第二参数控制器和所述第二计算模块连接;
所述前向数据缓存模块与所述第二计算模块连接;
所述反向输入缓存模块与所述第二计算模块连接。
5.根据权利要求4所述的基于FPGA的卷积神经网络训练系统,其特征在于,还包括隐层数据队列模块,所述隐层数据队列模块分别与所述前向计算引擎模块和所述反向计算引擎模块连接,用于缓存所述隐层数据并发送给所述反向子模块。
6.根据权利要求5所述的基于FPGA的卷积神经网络训练系统,其特征在于,所述隐层数据队列模块包括多个缓存队列,一个所述缓存队列分别与一个所述前向子模块、一个所述反向子模块连接。
7.根据权利要求1所述的基于FPGA的卷积神经网络训练系统,其特征在于,通过传播总线对所述第一训练集数据和所述第二训练集数据进行发送和接收。
8.根据权利要求1所述的基于FPGA的卷积神经网络训练系统,其特征在于,通过参数总线对所述第一网络参数和所述第二网络参数进行发送和接收。
9.一种基于FPGA的卷积神经网络训练方法,其特征在于,包括以下步骤:
获取第一网络参数、第一训练集数据以及学习率;
对所述第一网络参数和所述第一训练集数据进行处理,得到第二网络参数和第二训练集数据;
根据所述第二网络参数和所述第二训练集数据计算得到第一网络参数误差;
根据所述第一网络参数误差得到第二网络参数误差;
根据所述学习率和所述第二网络参数误差对所述第一网络参数进行更新,直到所述卷积神经网络的分类能力达到预设精度;
根据所述第二网络参数和所述第二训练集数据计算得到第一网络误差参数,包括:
根据所述第二网络参数和所述第二训练集数据计算得到隐层数据和预测误差;
根据所述第二网络参数、所述隐层数据和所述预测误差计算得到第一网络参数误差。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910060523.8/1.html,转载请声明来源钻瓜专利网。