[发明专利]利用地址随机化的AI模型转移方法

说明书

本公开公开了利用地址随机化的AI模型转移方法，涉及人工智能，尤其涉及信息流领域。具体实现方案为：一种转移人工智能(AI)模型的方法包括识别AI模型的多个层，其中，多个层中的每个层与存储器地址相关联。该方法还包括对与多个层中的每个层相关联的存储器地址进行随机化以及将具有随机化的存储器地址的多个层转移到数据处理加速器以执行AI模型。

技术领域

本公开大体上涉及用于执行人工智能(AI)模型的数据处理加速器。更具体地，本公开涉及在从主机到加速器的AI模型的转移中的数据保护。

背景技术

随着AI技术部署在诸如图像分类、医学诊断或自主驾驶的各种领域中，人工智能(AI)模型(也称为“机器学习模型”)最近已被广泛地使用。与软件应用的可执行映像或二进制映像类似，AI模型在被训练时可以基于一组属性执行推断以分类为特征。AI模型的训练可能需要在收集、整理和过滤数据上进行大量投资，以生成产生有用预测的AI模型。

从AI模型生成预测可以是计算密集型处理。为了为一个或多个用户提供足够的计算能力，可以提供数据处理加速器(DPA)集群(例如，在集群中)以执行AI模型所需的大量计算。因此，越来越多地在主机系统和数据处理(DP)加速器(诸如人工智能(AI)加速器或协处理器)之间执行敏感事务。这增加了保护DP加速器和主机系统环境之间的通信信道，以保护通信信道免受数据嗅探攻击的需要。

例如，用于AI训练数据、模型和推断输出的数据传输可能不受保护，并且可能通过通信信道泄漏到不可信方。此外，用于在通信信道上加密数据的基于密钥的解决方案可能较慢并且可能不实用。此外，大多数基于密钥的解决方案需要基于硬件的密码引擎。

发明内容

本申请的一个方面提供了一种转移人工智能模型的方法，该方法可包括：识别人工智能模型的多个层，其中，多个层中的每个层与存储器地址相关联；由处理设备对与多个层中的每个层相关联的存储器地址进行随机化；以及将具有随机化的存储器地址的多个层转移到数据处理加速器以执行人工智能模型，其中，人工智能模型的每个层的存储器地址引用数据处理加速器内的特定存储器位置，人工智能模型的相应层将被加载到特定存储器位置处。

本申请的另一方面提供了一种转移人工智能模型的系统，该系统可包括：存储器；以及处理设备，可操作地联接到存储器。处理设备执行以下操作：识别人工智能模型的多个层，其中，多个层中的每个层与存储器地址相关联；对与多个层中的每个层相关联的存储器地址进行随机化；以及将具有随机化的存储器地址的多个层转移到数据处理加速器以执行人工智能模型，其中，人工智能模型的每个层的存储器地址引用数据处理加速器内的特定存储器位置，人工智能模型的相应层将被加载到特定存储器位置处。

本申请的又一方面提供了一种存储指令的非暂时性机器可读存储介质，所述指令在由处理设备执行时可执行包括以下步骤的操作：识别人工智能模型的多个层，多个层中的每个层与存储器地址相关联；由处理设备对与多个层中的每个层相关联的存储器地址进行随机化；以及将具有随机化的存储器地址的多个层转移到数据处理加速器以执行人工智能模型，其中，人工智能模型的每个层的存储器地址引用数据处理加速器内的特定存储器位置，人工智能模型的相应层将被加载到特定存储器位置处。

本申请的又一方面提供了一种计算机程序产品，其上存储有计算机程序，其中，当上述计算机程序在被处理器执行时，使得处理器：识别人工智能模型的多个层，其中，多个层中的每个层与存储器地址相关联；对与多个层中的每个层相关联的存储器地址进行随机化；以及将具有随机化的存储器地址的多个层转移到数据处理加速器以执行人工智能模型，其中，人工智能模型的每个层的存储器地址引用数据处理加速器内的特定存储器位置，人工智能模型的相应层将被加载到特定存储器位置处。

附图说明

本公开的实施例在附图的各个图中以示例的方式而不是限制的方式示出，其中，在附图中相同的附图标记表示类似的元件。

图1是示出根据一个实施例的安全处理系统的框图。