[发明专利]一种神经网络模型训练方法、装置、设备及介质

说明书

本申请公开了一种神经网络模型训练方法、装置、设备及介质，包括：获取第一模型训练用户终端下发的模型训练指令；在所述模型训练指令的控制下获取第一加密训练数据集；其中，所述第一加密训练数据集为第一数据提供方终端对第一训练数据集进行加密得到的数据集；利用所述第一加密训练数据集以及同态训练函数进行针对初始神经网络模型的模型训练，得到对应的第一训练后模型参数；其中，所述同态训练函数为根据明文训练函数进行重构得到的训练函数；所述明文训练函数为利用明文训练集对所述初始神经网络模型进行训练所采用的计算函数。这样，能够有效的保障训练数据集以及神经网络模型的安全性，并且避免复杂的交互通信延时。

技术领域

本申请涉及人工智能技术领域，特别涉及一种神经网络模型训练方法、装置、设备及介质。

背景技术

人工智能技术正在成为社会发展的新动力，在智能化生产、管理与服务领域中发挥越来越成熟、稳定的作用。事实上，基于深度学习的人工智能应用已经非常普遍，例如基于金属光滑曲面探测的产品质量检测生产方法、基于图像识别的人脸检测安防管理系统、基于语音识别的在线翻译和同声传译系统、基于视频雷达监测的自动驾驶技术等。然而，随着国际一般数据保护条例(GDPR，General Data Protection Regular)、国内网络空间安全法和个人隐私保护法的制定与实施，在基于深度学习的人工智能应用模型训练过程中，网络模型窃取攻击和训练数据隐私泄露将成为制约人工智能大规模应用与发展的关键瓶颈。针对网络模型窃取的攻击类型包括：模型提取攻击、模型逆向攻击、成员推理攻击、模型泄露攻击(内部腐败、外部系统漏洞等)，针对训练数据隐私泄露的攻击类型包括中间截取、共享拷贝、非法买卖、恶意篡改以及数据泄露(内部腐败、外部系统漏洞等)等攻击形式。

特别地，当前大数据、云计算的发展是促进人工智能技术快速崛起的原因之一，大多数企业、组织及研发机构有意愿选择将自己的人工智能应用外包、迁移到云计算平台；同时，人工智能应用涉及的关键数据和个人隐私都将暴露在企业掌控范围之外，容易发生模型、数据的泄露，造成信息系统安全风险。例如，银行企业A将自己的人工智能训练平台部署到云服务提供商B平台，B企业就会对A企业的数据内容造成安全威胁。其中，一种可能是B企业存在违法员工受利益驱动盗取A企业深度学习网络模型及训练数据集，并将盗取信息倒卖给企业C以获取非法利益。进一步地，复杂云计算平台带来更广的系统攻击面，容易造成系统漏洞给攻击者带来非法入侵的机会，给外包的网络模型与训练数据带来更多的安全隐私威胁。此外，人工智能应用要求对大规模、非同质数据进行训练分析以形成更完整、更精确的智能系统模型，因此需要不同企业、组织和机构共享数据内容，但是这一要求在法律(数据安全法、个人隐私保护法、GDPR等)允许的范围之外，容易造成数据非法交易、个人隐私信息泄露等安全风险。例如，电商A拥有客户消费记录能够分析客户喜好的消费领域，银行B拥有客户金融资料能够分析客户消费能力，运营商C拥有客户消费习惯能够分析客户喜好的消费平台，如果A、B、C三家企业能够共享数据形成消费者的消费行为并对其未来消费行为进行精准预测，就有利于企业精准的对消费者投放广告、提示潜在风险等，同时三家企业获取利益最大化。但是，事实上对客户消费数据、金融资料及消费习惯的授权范围涉及消费者个人隐私，法律上是不允许以共享、买卖等方式被未授权的第三方获取。

当前，以对称加解密和非对称加解密为主的安全防护及数据隐私方法，均需要先对数据进行解密再进行计算操作，该过程中解密一旦完成明文就会暴露，难免存在安全漏洞和隐私威胁。此外，新型多方安全计算、零知识证明及不经意传输等协议对于安全防护和数据隐私保护起到至关重要作用，但是协议执行的交互复杂度及应用场景要求具有一定局限性。因此，在云计算广泛应用的背景下，如何保障训练数据以及神经网络模型的安全性，并降低安全防护的复杂度是目前需要解决的问题。

发明内容

有鉴于此，本申请的目的在于提供一种神经网络模型训练方法、装置、设备及介质，能够有效的保障训练数据集以及神经网络模型的安全性，并且避免复杂的交互通信延时。其具体方案如下：

第一方面，本申请公开了一种神经网络模型训练方法，应用于人工智能训练平台，包括：