[发明专利]构建通信算法数据库的方法、装置和计算机存储介质

权利要求书

1.一种对机器学习任务在分布式系统中确定通信算法配置的方法，其特征在于，所述方法包括以下步骤：

基于不同的软硬件配置和通信算法配置对预设用例进行机器学习模型训练；其中，所述通信算法配置包括：设备连接的拓朴结构、信息传递模式、单次信息传递量、信息同步频率；

记录在不同的软硬件配置和通信算法配置下训练所述机器学习模型达到既定正确率所用的训练时间；

将所述预设用例、所述不同的软硬件配置和通信算法配置以及训练时间按照对应关系构建通信算法数据库；

根据当前机器学习任务的场景和软硬件配置，利用所述通信算法数据库确定最优通信算法配置。

2.如权利要求1所述的确定通信算法配置的方法，其特征在于，还包括：

根据预设应用场景选取预设用例。

3.如权利要求2所述的确定通信算法配置的方法，其特征在于，所述预设应用场景包括：图像分类、自然语言分类；所述根据预设应用场景选取预设用例包括：

当应用场景为图像分类时，选取多层残差网络作为机器学习模型，基于ImageNet数据集进行训练；

当应用场景为自然语言分类时，选取转换式双向编码表征作为机器学习模型，基于通用语言理解评测数据集进行训练。

4.如权利要求1所述的确定通信算法配置的方法，其特征在于，所述设备连接的拓朴结构包括：

参数服务器结构、环状结构、多级树状结构、蜻蜓结构；

所述信息传递模式包括：

广播模式、散射模式、重组模式、整合模式。

5.如权利要求1所述的确定通信算法配置的方法，其特征在于，所述基于不同的软硬件配置和通信算法配置对预设用例进行机器学习模型训练，包括：

确定硬件参数和机器学习框架；

确定通信算法的拓扑结构；

确定所述通信算法的信息传递模式；

确定所述通信算法的单次信息传递量；

确定所述通信算法的信息同步频率；

根据确定的通信算法配置通过实验仿真完成机器学习模型训练；

调整通信算法配置完成所述机器学习模型训练。

6.如权利要求5所述的确定通信算法配置的方法，其特征在于，所述硬件参数包括：加速器性能、加速器存储容量、网络带宽、网络延迟、功耗。

7.一种确定通信算法配置的装置，其特征在于，所述装置包括存储器、处理器以及存储在所述存储器并可在所述处理器上运行的确定通信算法配置的程序，所述确定通信算法配置的程序被所述处理器执行时实现如权利要求1-6任一项所述的确定通信算法配置的方法的各个步骤。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有确定通信算法配置的程序，所述确定通信算法配置的程序被处理器执行时实现如权利要求1-6任一项所述的确定通信算法配置的方法的各个步骤。