[发明专利]基于输入修剪的边缘端DNN模型加载系统及方法

权利要求书

1.一种基于输入修剪的边缘端DNN模型加载系统，其特征在于：系统包括管理模块和压缩模块；

所述管理模块包括样本管理模块、模型训练模块和模型管理模块；

所述样本管理模块用于收集数据构建样本，将样本作为训练模型的输入数据；

所述模型训练模块根据构建好的样本对模型进行训练；

所述模型管理模块用于为用户提供模型的管理，方便用户查看经过训练后的评价指标；

所述压缩模块包括压缩模式选择模块、数据压缩模块、模型压缩与重训练模块和压缩日志记录模块；

所述压缩模式选择模块根据不同的数据间关联性，选择不同的压缩模式；

所述数据压缩模块生成相应压缩后的数据并保存到设置好的路径中，同时数据信息进行持久化保存，压缩后的数据作为模型压缩与重训练模块的输入数据；

所述模型压缩与重训练模块根据压缩后的数据与用户设置的压缩模型阈值，执行模型压缩操作，并构建出压缩后的模型，同时执行对压缩后的模型的重训练操作；

所述压缩日志记录模块在执行完模型压缩方法后，将模型的基本信息和模型的更新时间、准确率、召回率保存在压缩日志中，供用户对比查看。

2.根据权利要求1所述的基于输入修剪的边缘端DNN模型加载系统，其特征在于：所述样本为边缘设备收集到的数据，并对数据进行处理整合，具体包括：将收集到的数据进行缺失值补全、归一化操作，并存储到文件中，之后进一步将这些数据的描述信息以及文件存储路径保存到数据库中。

3.根据权利要求1所述的基于输入修剪的边缘端DNN模型加载系统，其特征在于：所述模型训练模块还将模型的基本信息，包括评价指标、模型大小、模型名称、模型的存放路径、模型输入属性和输出属性个数信息进行记录和存储，为用户压缩服务提供参考依据。

4.根据权利要求1所述的基于输入修剪的边缘端DNN模型加载系统，其特征在于：所述模型管理模块还提供了模型的下载以及上传功能。

5.根据权利要求1所述的基于输入修剪的边缘端DNN模型加载系统，其特征在于：所述压缩模式选择模块中的压缩模式包括：基于输入与输出间关联性修剪策略的压缩模式、基于输入间相似性修剪策略的压缩模式、先基于输入与输出间关联性后基于输入间相似性修剪策略的压缩模式以及先基于输入间相似性后基于输入与输出间关联性修剪策略的压缩模式。

6.根据权利要求1所述的基于输入修剪的边缘端DNN模型加载系统，其特征在于：所述压缩模型阈值包括模型大小阈值和模型准确率阈值。