[发明专利]一种基于联邦学习的决策树构建方法、装置及存储介质

说明书

本申请公开了一种基于联邦学习的决策树构建方法、装置及存储介质。涉及人工智能技术领域。该方法具体包括：服务器向至少两个终端设备发送第一指示信息，第一指示信息用于指示对样本数据进行统计。然后，服务器接收至少两个样本统计参数，并根据至少两个样本统计参数确定全局统计参数，并根据全局统计参数判断决策树的第一节点是否满足分裂条件。若满足分裂条件，服务器向至少两个终端设备发送第二指示信息，第二指示信息用于指示对样本数据进行分割，分割后获得的样本数据作为下一次需要训练的样本数据。该方法用以解决现有网络模型对样本分类时的泛化能力较差，分类结果容易过拟合的问题。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种基于联邦学习的决策树构建方法、装置及存储介质。

背景技术

随着数据量的逐渐增大，如何合理、安全挖掘并利用数据的价值成为研究的重点。联邦学习是一种具有隐私和敏感数据保护能力的分布式机器学习技术，联邦学习涉及两个及以上的参与方设备，各个参与方设备之间无需共享本地数据即可实现机器学习的建模、训练。

将联邦学习与提升树算法结合，利用提升树算法基于决策树构建而成的特点，可使得联邦学习算法最终具有样本分类的能力。但是，基于提升树构建的网络模型，对样本分类时的泛化能力较差，分类结果容易过拟合。

发明内容

本申请提供了一种基于联邦学习的决策树构建方法、装置及存储介质，用以解决现有联邦学习算法泛化能力较差的问题。

第一方面，本申请提供了一种基于联邦学习的决策树构建方法。以该方法应用于联邦学习系统中的服务器为例，该方法具体包括：服务器向至少两个终端设备发送第一指示信息，第一指示信息用于指示对样本数据进行统计。然后，服务器接收至少两个样本统计参数。其中，至少两个样本统计参数与至少两个终端设备一一对应，至少两个样本统计参数中的第一样本统计参数是对第一统计信息加扰得到的，第一统计信息为至少两个终端设备中的第一终端设备基于特征值集合对样本数据进行统计获得的信息，特征值集合为至少两个终端设备的样本数据的特征值的集合。然后，服务器根据至少两个样本统计参数确定全局统计参数，并根据全局统计参数判断决策树的第一节点是否满足分裂条件。全局统计参数用于指示至少两个终端设备的样本数据的统计信息，决策树用于构建网络模型。若满足分裂条件，服务器向至少两个终端设备发送第二指示信息，第二指示信息用于指示对样本数据进行分割，分割后获得的样本数据作为下一次需要训练的样本数据。

在本申请实施例中，特征值集合是至少两个终端设备的样本数据的特征值的集合，即各个终端设备对自身样本数据的统计是基于所有终端设备共同的特征值集合确定的。服务器整合所有终端设备针对样本数据的统计，整合后的统计信息用于决策树的构建，可使得构建出的决策树的分类结果更加准确。

可选的，第一样本统计参数是根据第一终端设备与至少一个终端设备分别协商获得的噪声参数对第一统计信息加扰得到的。

噪声参数是第一终端设备与至少一个终端设备分别协商获得的，第一终端设备根据该噪声参数对第一统计信息进行加噪，这样服务器从第一样本统计参数无法直接获取第一统计信息。通过该方法可以减少终端设备的隐私数据的泄露，提高了安全性。

可选的，第一节点为决策树的初始节点，服务器向至少两个终端设备发送第一指示信息之前，还包括：服务器发送至少两个样本编号集，至少两个样本编号集与至少两个终端设备一一对应，其中，至少两个样本编号集中的第一样本编号集是基于第一终端设备的初始样本编号集随机抽样确定的。然后，服务器接收至少两个特征值，至少两个特征值与至少两个终端设备一一对应，一个特征值为一个终端设备的样本数据的特征值。然后，服务器根据至少两个特征值确定特征值集合，并将特征值集合发送给至少两个终端设备。

各个终端设备的样本数据是根据各自初始样本随机抽样所得，更为合理，使得决策树对样本数据中的异常值不敏感，提高了决策树的泛化能力。