[发明专利]基于Actor-Critic生成式对抗网络的图片描述生成方法及系统

说明书

本发明公开了一种基于Actor‑Critic生成式对抗网络的图片描述生成方法及系统，包括以下步骤：(1)获取已知文本描述的图片并进行预处理，构建训练集；(2)基于生成对抗网络和Actor‑Critic算法搭建目标网络，所述的目标网络包含生成器网络、判别器网络和Critic网络；(3)将训练集中的图片本身及其文本描述输入到目标网络中，对生成器和判别器进行预训练和对抗训练，再采用Actor‑Critic算法对生成器的参数进行单步更新；(4)将需要生成文本描述的目标图片输入到训练好的生成器中，得到该目标图片的文本描述。本发明基于Actor‑Critic算法，采用对抗网络技术，可在给定图像上生成多样化的文本描述。

技术领域

本发明涉及强化学习领域、计算机视觉和自然语言处理领域，尤其涉及一种基于Actor-Critic生成式对抗网络的图片描述生成方法及系统。

背景技术

图像摘要(Image Caption)是计算机视觉的一个重要问题。

在传统的图像摘要任务中，常用的模型就是Encoder-Decoder(编码-解码)模型。一般情况下，Encoder采用卷积神经网络(Convolutional Neural Networks，CNN)提取图像特征，而Decoder采用递归神经网络(Recursive Neural Network，RNN)从图像特征中生成摘要。这是因为CNN在提取图像特征中表现良好，而RNN对输入存在记忆能力，在文本生成方面表现突出。

Qi Wu(Q.Wu，C.Shen，A.van den Hengel，L.Liu，and A.Dick.What Value DoExplicit High-Level Concepts Have in Vision to Language Problems？In CVPR，2016.2)发表的论文中提出，将Decoder的输入从提取图像特征，改成对应图像的高级语义特征，整个模型的表现成都可以提高。因为在此之前的方法并不显式地表示高级语义概念，而是寻求直接从图像特征发展到文本。通过把图像特征替换为高级语义特征，这的确获得了成效。

生成式对抗网络(Generative Adversarial Networks，GAN)是基于零和博弈的一种方法。系统由生成器G和判别器D组成。生成器G致力于伪造逼真的数据去欺骗判别器D，而判别器D则致力于尽可能地正确区分真实数据与生成数据，并输出该数据为真实数据的可能性概率。目前GAN受到广泛关注，在许多领域已经取得不错成果，尤其在图像生成任务方面，GAN因为能生成多样的“真实”图像，而一直难以被其他模型超越。

然而GAN在文本生成方面却遇到了阻碍。这是因为GAN在利用反向传播更新梯度的时候，由于离散数据的生成需要根据概率来采样，而采样过程不可导，这就导致反向传播失去意义。Lantao Yu(L.Yu，W.Zhang，J.Wang，and Y.Yu.Seqgan：Sequence generativeadversarial nets with policy gradient.arXiv preprint arXiv：1609.05473，2016.2)提出的序列生成对抗网络(Sequence Generative Adversarial Nets，SeqGAN)模型解决了这个问题。SeqGAN结合了GAN和策略梯度(Policy Gradient)的强化学习方法使得离散数据也能够在GAN中得到训练。