[发明专利]评价装置、评价方法以及评价程序

说明书

评价装置接受变分自编码器的隐变量的输入，对所输入的隐变量进行聚类，按每个聚类对属于该聚类的隐变量赋予表示上述聚类的标签。然后，评价装置进行分类器的学习，以按照所赋予的标签正确地对隐变量进行分类，对学习后的分类器进行Adversarial Attack的耐性评价，输出耐性评价的结果。由此，评价装置即使是使用无标签数据作为输入数据的变分自编码器，也能够进行Adversarial Attack的耐性评价。

技术领域

本发明涉及评价装置、评价方法以及评价程序。

背景技术

作为深层学习的方法，广泛使用VAE(Variational Auto Encoder，变分自编码器)，但近年来，暗示了作为针对机器学习的脆弱性的攻击的Adversarial Attack(对抗攻击)的威胁。Adversarial Attack是指通过有意识地赋予机器学习的脆弱性而产生学习的品质降低、分类问题中的误分类等的攻击手法。近年来，在基于深层学习的有教学分类问题中，使用载有人无法识别数据的微小噪声的Adversarial Example(对抗例)来使误认数据的方法成为威胁，正在进行研究。

使用了Adversarial Example的Adversarial Attack对作为无教学学习的VAE也是很大的威胁。VAE将输入数据压缩为隐变量，根据隐变量重构输入数据，当通过Adversarial Attack对向该VAE的输入数据施加噪声时，重构目的地被操作。其结果，例如，使用VAE的异常检测系统有可能将本来异常的通信数据判定为正常的通信数据。因此，评价现有的VAE应用对Adversarial Attack具有怎样的耐性是重要的课题。

但是，以往，关于Adversarial Attack对VAE的耐受性评价，只能在对VAE的输入数据附加了标签的情况下进行。对该VAE的耐受性评价例如通过使分类器学习根据对VAE的输入数据的标签对VAE的中间输出(隐变量)进行分类，并对该学习到的分类器进行Adversarial Attack来进行。

现有技术文献

非专利文献

非专利文献1：VAE(Variational Auto Encoder)，[平成31年3月7日检索]，互联网URL：https://arxiv.org/abs/1312.6114

非专利文献2：对有教学学习的攻击，[平成31年3月7日检索]，互联网URL：https://arxiv.org/abs/1412.6572

非专利文献3：对无教学学习的攻击，[平成31年3月7日检索]，互联网https：//arxiv.org/abs/1702.06832

发明内容

发明要解决的课题

但是，根据上述方法，在进行Adversarial Attack对VAE的耐受性评价的情况下，以向VAE的输入数据带有标签为前提。因此，不能进行使用无标签数据作为输入数据的Adversarial Attack对VAE的耐性评价。因此，本发明的课题在于解决上述问题，即使是使用无标签数据作为输入数据的VAE，也能够进行Adversarial Attack的耐性评价。

解决课题的手段

为了解决上述课题，本发明具备：输入部，其接受变分自编码器的隐变量的输入；标签赋予部，其通过规定的聚类方法对所输入的所述隐变量进行聚类，按照每个聚类对属于该聚类的隐变量赋予所述聚类的标签；学习部，其将赋予了所述标签的隐变量用作教学数据来进行分类器的学习；评价部，其对学习后的所述分类器，进行Adversarial Attack的耐性评价；以及输出所述Adversarial Attack的耐性评价的结果的输出部。

发明的效果