[发明专利]基于训练数据相似度聚合的模型加速训练方法及装置

摘要

基于训练数据相似度聚合的模型加速训练方法及装置，以一份最小化的训练数据作为起始，在每个轮次中应用随机采样和随机增量的方式从当前模型的预测结果中提取预测不佳的数据，并且用聚类提取方式采样额外的训练数据，从而获取最具有代表性的训练信息，提高每个轮次的训练效率。本发明减少每个轮次模型训练的数据集规模，训练时间大幅减少，聚类不需要精确结果，可减少迭代次数或使用更快速简单的聚类方法，总体上每个轮次总训练时间仍比原有全训练集训练减少很多；每个轮次选择的训练数据均有针对性，选用推理错误的图像训练，能够最大程度的获取反向传播梯度，降低训练时陷入局部最优解的概率，便于在训练过程中动态调整，以达到最佳训练结果。