[发明专利]利用地址随机化的AI模型转移方法有效
申请号: | 202011464041.8 | 申请日: | 2020-12-14 |
公开(公告)号: | CN113807531B | 公开(公告)日: | 2023-08-22 |
发明(设计)人: | 程越强;朱贺飞 | 申请(专利权)人: | 百度(美国)有限责任公司;昆仑芯(北京)科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F12/02 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;王艳春 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 利用 地址 随机化 ai 模型 转移 方法 | ||
1.一种转移人工智能模型的方法,包括:
识别人工智能模型的多个层,其中,所述多个层中的每个层与存储器地址相关联;
由处理设备对与所述多个层中的每个层相关联的所述存储器地址进行随机化;以及
将具有随机化的存储器地址的所述多个层转移到数据处理加速器以执行所述人工智能模型,其中,所述人工智能模型的每个层的存储器地址引用所述数据处理加速器内的特定存储器位置,所述人工智能模型的相应层将被加载到所述特定存储器位置处。
2.如权利要求1所述的方法,其中,对所述存储器地址进行随机化包括:
确定所述数据处理加速器的地址空间;以及
随机地将所述地址空间的地址分配给所述人工智能模型的每个层。
3.如权利要求1所述的方法,还包括:
将所述随机化的存储器地址转发到所述数据处理加速器,以用于所述数据处理加速器重构所述人工智能模型。
4.如权利要求1所述的方法,其中,与每个层相关联的所述存储器地址是相应层的基地址。
5.如权利要求4所述的方法,其中,内核函数与所述多个层中的每个层相关联。
6.如权利要求5所述的方法,其中,每个内核函数使用所述基地址来从与所述内核函数相关联的相应层检索权重。
7.如权利要求1所述的方法,其中,所述数据处理加速器包括人工智能加速器。
8.一种转移人工智能模型的系统,所述系统包括:
存储器;以及
处理设备,可操作地联接到所述存储器,所述处理设备执行以下操作:
识别人工智能模型的多个层,其中,所述多个层中的每个层与存储器地址相关联;
对与所述多个层中的每个层相关联的所述存储器地址进行随机化;以及
将具有随机化的存储器地址的所述多个层转移到数据处理加速器以执行所述人工智能模型,其中,所述人工智能模型的每个层的存储器地址引用所述数据处理加速器内的特定存储器位置,所述人工智能模型的相应层将被加载到所述特定存储器位置处。
9.如权利要求8所述的系统,其中,为了对所述存储器地址进行随机化,所述处理设备执行以下操作:
确定所述数据处理加速器的地址空间;以及
随机地将所述地址空间的地址分配给所述人工智能模型的每个层。
10.如权利要求9所述的系统,其中,所述处理设备还执行以下操作:
将所述随机化的存储器地址转发到所述数据处理加速器,以用于所述数据处理加速器重构所述人工智能模型。
11.如权利要求9所述的系统,其中,与每个层相关联的所述存储器地址是相应层的基地址。
12.如权利要求11所述的系统,其中,内核函数与所述多个层中的每个层相关联。
13.如权利要求12所述的系统,其中,每个内核函数使用所述基地址来从与所述内核函数相关联的相应层检索权重。
14.如权利要求8所述的系统,其中,所述数据处理加速器包括人工智能加速器。
15.一种存储指令的非暂时性机器可读存储介质,所述指令在由处理设备执行时执行包括以下步骤的操作:
识别人工智能模型的多个层,所述多个层中的每个层与存储器地址相关联;
由所述处理设备对与所述多个层中的每个层相关联的存储器地址进行随机化;以及
将具有随机化的存储器地址的所述多个层转移到数据处理加速器以执行所述人工智能模型,其中,所述人工智能模型的每个层的存储器地址引用所述数据处理加速器内的特定存储器位置,所述人工智能模型的相应层将被加载到所述特定存储器位置处。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度(美国)有限责任公司;昆仑芯(北京)科技有限公司,未经百度(美国)有限责任公司;昆仑芯(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011464041.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:沼渣基生物炭材料及其制备方法和用途
- 下一篇:利用层随机化的AI模型转移方法