[发明专利]训练类条件生成对抗序列网络

说明书

训练类条件生成对抗序列网络。描述了一种用于训练类条件生成对抗网络（GAN）的计算机实现的方法和系统。使用分类损失函数训练鉴别器，而省略使用对抗损失函数。取而代之地，如果训练数据具有C个类，则分类损失函数可以被表述为2C类分类问题，通过所述2C类分类问题，鉴别器被训练为对C个类区分2次。示出了，这样的经训练的鉴别器为生成器提供信息性训练信号，以通过生成器学习类条件数据合成。此外，描述了一种用于使用经训练的生成对抗网络的生成部分来合成数据的数据合成系统和计算机实现的方法。

技术领域

本发明涉及用于训练生成对抗网络的计算机实现的方法和系统。本发明进一步涉及用于使用经训练的生成对抗网络的生成模型例如用于数据合成、异常检测和/或用于缺失数据插补的计算机实现的方法和系统。本发明进一步涉及至少包括经训练的生成对抗网络的生成模型的计算机可读介质，并且涉及包括表示指令的数据的计算机可读介质，所述指令被布置成使得处理器系统执行至少一个计算机实现的方法。

背景技术

生成对抗网络（GAN）已由Ian Goodfellow等人在2014年引入[1]。在他们的论文中，提出了一种用于经由对抗网络估计生成模型的框架，其中两个模型被同时训练：捕获要学习的数据分布的生成模型，以及估计输入实例是从训练数据（输入是“真实的”）而不是从生成模型（输入是“虚假的”）获得的概率的鉴别模型。在下文中，生成模型也可以被称为“生成器”或简称为“G”，并且鉴别模型也可以被称为“鉴别器”或简称为“D”。

最近的研究已示出，这样的经训练的生成对抗网络的生成模型特别是当使用深度生成模型、诸如所谓的“深度”卷积神经网络时，能够以高分辨率和以足够的质量合成看起来自然的图像，以欺骗甚至人类观察者。

还存在经训练的GAN、并且具体为经训练的GAN的经训练的生成模型的许多其他真实世界应用，所述真实世界应用范围从异常检测、用于另一机器可学习模型的机器学习的合成数据生成到例如用于修补被遮挡的图像区域之类的缺失数据插补。

例如，在自主驾驶领域中，经训练的GAN可以用于生成用于自主驾驶的“极端用例”场景，例如，表示近碰撞的合成图像，其可以用于测试和验证自主驾驶算法和系统在这样的场景中的性能。在特定示例中，合成图像可以用于训练诸如神经网络之类的机器可学习模型，所述机器可学习模型可以用作控制自主车辆的转向和/或制动的系统的部分。

GAN的训练通常牵涉到以下内容。生成模型G可以被配置为从来自潜在空间的有噪样本（“潜在向量”）生成合成输出实例。鉴别模型D可以被训练为在源自生成模型G的输入实例与训练数据之间进行鉴别。生成模型G可以被训练为从有噪样本生成合成输出实例，当鉴别模型D被应用于合成输出实例时，所述有噪样本使鉴别误差最大化。训练的每次迭代可以牵涉到通过更新相应模型的权重、例如通过经由反向传播计算梯度，来交替地训练鉴别模型D和生成模型G。

GAN可以被训练为合成特定类内的数据。例如，GAN可以被训练为合成诸如狗、猫等宠物的图像，其中“狗”、“猫”等各自表示类标签（的语义表示）。这里，术语“标签”可以指代类的标识符，所述类的标识符通常可以是数字标识符，但是其在下文中也可以用其语义解释来指代。这样的基于类的数据合成也可以被称为“类条件”或“标签条件”数据合成，而这样的GAN可以被称为类条件或标签条件GAN，其中两个术语在下文中可互换使用。类条件GAN的示例从出版物[2]-[5]中已知，并且可以在许多情况下提供在未经类条件训练的GAN之上的某些优势。例如，监督式学习可能要求标记的数据，所述标记的数据可以由经训练的类条件GAN生成为GAN的输入目标类及其合成输出的组合。