[发明专利]一种模型数据的存储方法、装置、存储介质及电子设备有效
申请号: | 202310448220.X | 申请日: | 2023-04-24 |
公开(公告)号: | CN116185307B | 公开(公告)日: | 2023-07-04 |
发明(设计)人: | 程稳;刘懿;吕波;李勇;黄章敏;崔钰;朱健;费军波;常璟飞;胡陈枢;陈光;曾令仿 | 申请(专利权)人: | 之江实验室 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06N3/063 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 邓超 |
地址: | 311121 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 模型 数据 存储 方法 装置 介质 电子设备 | ||
1.一种模型数据的存储方法,其特征在于,所述方法应用于人工智能AI加速器,包括:
接收模型数据的存储请求并获取模型数据;
确定所述模型数据的属性信息;
根据所述属性信息,确定所述模型数据对应的存储位置;
若所述存储位置位于所述AI加速器的本地存储单元,则确定与所述属性信息相匹配的压缩方式,作为目标压缩方式,通过所述目标压缩方式对所述模型数据进行压缩,并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置,以及
若所述存储位置位于所述AI加速器的远端存储单元,则将所述模型数据存储在所述远端存储单元中的所述存储位置,其中,存储在所述远端存储单元中的模型数据为未被压缩的模型数据。
2.如权利要求1所述的方法,其特征在于,在确定所述模型数据的属性信息之前,所述方法还包括:
基于所述模型数据的数据量以及所述AI加速器对应接收单元当前的空闲程度,判断是否对所述模型数据进行聚合处理;
若是,对所述模型数据进行聚合处理。
3.如权利要求2所述的方法,其特征在于,基于所述模型数据的数据量以及所述AI加速器对应接收单元当前的空闲程度,判断是否对所述模型数据进行聚合处理,具体包括:
若所述数据量小于预设阈值,和/或所述接收单元当前的空闲程度大于预设空闲程度,则对所述模型数据进行聚合处理。
4.如权利要求1所述的方法,其特征在于,确定所述模型数据的属性信息,具体包括:
基于所述模型数据对应的属性信息,对所述模型数据进行标记,所述标记用于确定所述模型数据是否允许分割、是否与其他模型数据关联、是否允许压缩以及存储位置中的至少一种。
5.如权利要求4所述的方法,其特征在于,根据所述属性信息,确定所述模型数据对应的存储位置,具体包括:
根据所述属性信息以及所述标记,生成所述模型数据对应的属性表并存储在本地;
基于所述属性表,确定所述模型数据对应的存储位置。
6.如权利要求4所述的方法,其特征在于,所述属性信息包括:所述模型数据对应的访问频率等级、当前训练阶段对所述模型数据的精度需求信息、所述模型数据所需的资源信息中的至少一种。
7.如权利要求1所述的方法,其特征在于,若所述存储位置位于所述AI加速器的本地存储单元,则确定与所述属性信息相匹配的压缩方式,作为目标压缩方式,通过所述目标压缩方式对所述模型数据进行压缩,并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置,具体包括:
若所述存储位置位于所述AI加速器的本地存储单元,则对所述模型数据进行聚合处理,得到聚合后数据;
通过所述目标压缩方式对所述聚合后数据进行压缩,并将压缩后的聚合后数据存储在所述本地存储单元中的所述存储位置。
8.如权利要求1所述的方法,其特征在于,若所述存储位置位于所述AI加速器的远端存储单元,则将所述模型数据进行聚合处理,得到聚合后数据;
将所述聚合后数据存储在所述远端存储单元中的所述存储位置。
9.如权利要求1所述的方法,其特征在于,所述方法还包括:
接收数据访问请求;
根据所述访问请求,从所述存储位置读取所述模型数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室,未经之江实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310448220.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置