[发明专利]一种基于神经架构搜索的抗单粒子翻转网络结构优化方法及系统

说明书

本发明公开了一种基于神经架构搜索的抗单粒子翻转网络结构优化方法及系统，对于单粒子翻转干扰效应模拟功能，首先根据神经网络模型不同层所含数据的不同进行区分，然后按照给定比例分别对神经网络模型参数、神经网络模型输入及输出数据进行抽样，进而对抽取得到的数据进行二进制转换，然后对转换后的二进制位进行采样并进行位翻转操作，得到模拟单粒子翻转干扰后的数据并将翻转后的二进制数据重新转换为十进制数据，最终实现对单粒子翻转的准确模拟。对于抗单粒子翻转模型结构优化算法，引入上述单粒子翻转干扰模拟算法，结合神经架构搜索方法，将封装好的单粒子翻转模拟函数与神经架构搜索算法相结合，实现抗单粒子翻转神经网络模型的结构优化。

技术领域

本发明属于人工智能技术领域，涉及一种基于神经架构搜索的抗单粒子翻转网络结构优化方法及系统。

背景技术

当人工智能芯片作为星载芯片搭乘卫星并应用于太空环境时，芯片会受到太空辐照的影响，尤其是太空中高能粒子带来的辐射和冲击现象会导致芯片产生单粒子翻转效应。单粒子翻转对智能芯片存储单元的干扰会使得存储器单元所保存的参数出现错误，该错误映射到神经网络中会造成神经网络最后的输出结果出现偏差。针对上述问题，研究人员分别从硬件和软件两个角度提升芯片的抗单粒子翻转性能：1)从硬件角度出发，早期抗单粒子翻转方法主要侧重于改进芯片的制作工艺，例如使用SOI器件，SOI器件结构的埋氧化层使得器件之间完全隔离，可以从根本上消除单粒子闩锁效应，但该结构无法阻止质子的穿透，底部渗入的质子仍会导致单粒子翻转效应的产生；2)从软件角度出发，研究人员尝试从网络结构角度解决单粒子翻转干扰对神经网络模型的影响。Lee等人分析前馈神经网络模型的容错能力，提出在模型训练过程中随机断开权重以提高错误恢复能力。Assoum等人分析了人工神经网络在太空环境中抗单粒子翻转的鲁棒性。Arechiga和Michaels等人针对VGG16，ResNet50和InceptionV3三种不同的网络结构在推理阶段参数出错时网络模型的鲁棒性，分析了单粒子翻转干扰造成的权重出错对模型的影响，导致神经网络模型在遭受单粒子翻转时模型性能降低。

发明内容

本发明的目的在于解决现有技术中空间中高能粒子导致的单粒子翻转效应对神经网络模型性能造成干扰的问题，提供一种基于神经架构搜索的抗单粒子翻转网络结构优化方法及系统。

为达到上述目的，本发明采用以下技术方案予以实现：

本发明提出的一种基于神经架构搜索的抗单粒子翻转网络结构优化方法，包括如下步骤：

根据单粒子翻转干扰模型获取模拟函数；

根据模拟函数构建抗单粒子模型架构搜索空间；

根据抗单粒子模型架构搜索空间构建超网络；

根据构建的超网络确定搜索策略，实现抗单粒子翻转网络结构优化。

优选地，获取单粒子翻转干扰模型的方法如下：

将需要进行单粒子翻转模拟的参数由十进制转换为二进制；

随机采样该数据的二进制位并确定需要翻转的二进制位，进而对选定的二进制位进行位翻转操作；

将翻转后的二进制数据重新转换为十进制数据，最终得到单粒子翻转干扰模型。

优选地，单粒子翻转干扰模型中数据的受干扰概率是均等的。

优选地，构建抗单粒子翻转优化模型的搜索空间的具体步骤如下：

第一步：限定搜索空间

限定搜索空间满足以下条件：每个基本单元由六个节点组成，其中前两个节点为输入层固定不变，后四个节点为中间节点需要通过搜索确定；每个基本单元的输入为前两个基本单元的输出，每个基本单元的输出为其中间节点计算结果在深度通道上的连接；

第二步：构建搜索空间