[发明专利]创建用于识别特定机器学习模型的签名

说明书

本申请涉及创建用于识别特定机器学习模型的签名。计算机访问机器学习模型和多个样本，每个样本利用用于训练机器学习模型以识别类别中的每个类别的训练数据内的多个类别中的单独原始类别进行分类。计算机生成多个合成样本，每个合成样本包括样本，该样本被扭曲以诱导机器学习模型将该样本错误分类到与原始类别不同的类别。计算机创建合成样本签名，用于在运行时从合成样本和返回的类别标签的矩阵验证机器学习模型的身份，每个返回的类别标签标识根据响应于在机器学习模型上运行合成样本的每个合成样本的实际分类确定的类别中的一个类别。

技术领域

本发明的一个或多个实施例一般而言涉及数据处理，特别地涉及创建用于识别特定机器学习模型的签名。

背景技术

机器学习在许多人工智能应用中起着中心作用。训练机器学习应用的过程的结果之一是被称为模型的数据对象，该数据对象是从训练数据推断出的模式的参数表示。在创建模型之后，将模型部署到一个或多个环境中以供使用。在运行时，基于从数小时的开发和大量数据得到的结构，模型是机器学习系统的核心。

发明内容

在一个实施例中，一种方法涉及通过计算机系统访问机器学习模型和多个样本，多个样本中的每个样本利用训练数据内的多个类别中的单独原始类别进行分类，该训练数据用于训练机器学习模型以识别该多个类别中的每个类别。该方法涉及通过计算机系统生成多个合成样本，每个合成样本包括多个样本中被扭曲的单独样本，以诱导机器学习模型将单独样本错误分类到与多个类别中的单独原始类别不同的类别。该方法涉及通过计算机系统从多个合成样本和多个返回的类别标签的矩阵创建合成样本签名，用于在运行时验证机器学习模型的身份，每个返回的类别标签标识如根据在机器学习模型上运行多个合成样本而从多个合成样本中的每个合成样本的实际分类确定的多个类别中的单独类别。

在另一个实施例中，一种计算机系统包括一个或多个处理器、一个或多个计算机可读存储器、一个或多个计算机可读存储设备以及存储在一个或多个存储设备中的至少一个存储设备上用于由一个或多个处理器中的至少一个处理器经由一个或多个存储器中的至少一个存储器执行的程序指令。所存储的程序指令包括访问机器学习模型和多个样本的程序指令，多个样本中的每个样本利用训练数据内的多个类别中的单独原始类别进行分类，该训练数据用于训练机器学习模型以识别多个类别中的每个类别。所存储的程序指令包括生成多个合成样本的程序指令，每个合成样本包括多个样本中被扭曲的单独样本，以诱导机器学习模型将单独样本错误分类到与多个类别中的单独原始类别不同的类别。所存储的程序指令包括从多个合成样本和多个返回的类别标签的矩阵创建合成样本签名以用于在运行时验证机器学习模型的身份的程序指令，每个返回的类别标签识别如根据在机器学习模型上运行多个合成样本而从多个合成样本中的每个合成样本的实际分类确定的多个类别中的单独类别。

在另一个实施例中，一种计算机程序产品包括计算机可读存储介质，该计算机可读存储介质具有与其一起实施的程序指令，其中该计算机可读存储介质本身不是瞬态信号。程序指令可由计算机执行以使计算机通过计算机从一个或多个电池启用设备接收一种或多种类型的个体电流使用。程序指令可由计算机执行以使计算机通过计算机访问机器学习模型和多个样本，多个样本中的每个样本利用训练数据内的多个类别中的单独原始类别进行分类，该训练数据用于训练机器学习模型以识别多个类别中的每个类别。程序指令可由计算机执行以使计算机通过计算机生成多个合成样本，每个合成样本包括多个样本中被扭曲的单独样本，以诱导机器学习模型将单独样本错误分类到与多个类别中的单独原始类别不同的类别。程序指令可由计算机执行以使计算机通过计算机从多个合成样本和多个返回的类别标签的矩阵创建合成样本签名，用于在运行时验证机器学习模型的身份，每个返回的类别标签识别如根据在机器学习模型上运行多个合成样本而从多个合成样本中的每个合成样本的实际分类确定的多个类别中的单独类别。

附图说明

被认为是本发明的一个或多个实施例的特性的新颖特征在所附权利要求中阐述。但是，当结合附图阅读时，通过参考说明性实施例的以下详细描述，将最好地理解本发明的一个或多个实施例，其中：