[发明专利]一种在边缘节点上部署二值化分类网络的方法在审
申请号: | 202110040706.0 | 申请日: | 2021-01-13 |
公开(公告)号: | CN112699962A | 公开(公告)日: | 2021-04-23 |
发明(设计)人: | 吴丽君;林旭;陈志聪;林培杰;程树英 | 申请(专利权)人: | 福州大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/00;G06N3/08;G06N3/04 |
代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 钱莉;蔡学俊 |
地址: | 350108 福建省福州市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 边缘 节点 部署 化分 网络 方法 | ||
本发明涉及一种在边缘节点上部署二值化分类网络的方法包括以下步骤:步骤S1:ImageNet数据集的准备,提供训练集和验证集;步骤S2:基于Bi‑Real‑Net网络进行改进,其中,改进的Bi‑Real‑Net网络中使用二值化技术对网络进行压缩和加速。随后,在服务器端对改进的网络进行训练,在训练过程中将STE的更新区间从[‑1,1]扩大到[‑2,2],以提升网络的性能,最后在ImageNet验证集上进行性能测试;步骤S3:提取服务器端训练完的网络权重信息,利用Xilinx SDx将网络搭建在FPGA上,实现网络在边缘节点上的部署。本发明所提出的方法能够将复杂的网络部署在资源有限的边缘节点上,使得数据能够直接在边缘节点上进行分析处理,减少了边缘节点对于云端的依赖,有效地减少了所需的传输时延。
技术领域
本发明涉及深度学习领域,特别是一种在边缘节点上部署二值化分类网络的方法。
背景技术
随着物联网领域的不断发展,更多的物联网设备被部署到工业生产线上,以实时地采集数据,实现对生产状态的实时监控。为了实现上述功能,数据分析在其中扮演着非常重要的角色。其中,基于深度学习的数据分析方法,由于其高准确率、良好的鲁棒性,得到广泛的应用。通常,为了从数据中提取更高层次的特征,并提高数据分析系统的准确率,研究人员倾向于设计更深层的卷积神经网络。然而,更深层的卷积神经网络需要算力强大的云端进行支持。因此,部署在生产线的物联网设备需要将数据传输到云端进行分析处理后,再将结果进行回传,这将造成较大的时延问题。
为了减少数据传输所需的时延,通常的做法是将复杂的网络划分成两部分,即将计算量比较小的部分部署到边缘节点上,将计算量较大的部分部署到算力强大的云端。通过该方法,物联网设备采集的数据首先上传到边缘节点上进行分析处理,当部署在边缘节点的浅层网络无法给出准确的判断时,数据将被进一步上传到云端进行分析,以此来减少传输时延。
虽然上述的方法能够减少网络传输时延,但是,在处理复杂任务时,边缘节点上部署的简单网络将无法给出准确的分析结果,导致仍然需要将大量数据传输到云端进行分析处理,并等待云端的结果进行回传,由此将造成较大的传输时延问题。
发明内容
有鉴于此,本发明的目的是提供一种在边缘节点上部署二值化分类网络的方法,在改进的Bi-real-Net中网络中,将网络中的权重和卷积层的输入特征进行二值化,减少网络整体的参数量和计算量,以便部署到边缘节点上,使得数据能够在边缘节点上进行在线的分析处理,以减少对云端的依赖,并减少数据传输时延,提高系统的实时性。
本发明采用以下方案实现:一种在边缘节点上部署二值化分类网络的方法,包括以下步骤:
步骤S1:ImageNet数据集的准备,提供训练集和验证集;
步骤S2:对Bi-Real-Net网络进行改进,在改进的Bi-Real-Net网络中使用二值化方法对网络进行压缩和加速;随后在服务器端对改进的Bi-Real-Net网络进行训练,在训练过程中将STE的更新区间从[-1,1]扩大到[-2,2],用以提升网络的性能,最后在ImageNet验证集上进行性能测试;
步骤S3:提取服务器端训练完的网络权重信息,利用Xilinx SDx将改进后的Bi-Real-Net网络搭建在FPGA上,实现网络在边缘节点上的部署。
进一步地,所述步骤S1的具体内容为:改进Bi-Real-Net网络训练及验证所采用的数据集为ImageNet数据集;该数据集共1000种类别,包含126万张训练集和5万张验证集。
进一步地,步骤S2中所述对Bi-Real-Net网络进行改进具体包括以下步骤:
步骤SA:在18层Bi-Real-Net的整体架构上进行修改,分解网络中的3×3卷积核:将网络中的每个3×3卷积核用3×1和1×3卷积核的串接进行替换,并且,在替换的基础上,将每个卷积核的输入特征图和卷积核的输出特征图进行逐像素的相加;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110040706.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种紫红氧化格氏金属釉及其加工工艺
- 下一篇:一种半导体生产用晶圆缺陷检测机