[发明专利]一种基于图结构数据的端到端无数据对抗性知识抽取方法

摘要

本发明公开了一种基于图结构数据的端到端无数据对抗性知识抽取方法，用于模型压缩。本发明采用了产生式对抗性网络，该网络主要由三部分组成：将预先训练的教师模型和学生模型视为两个鉴别器，并利用生成器生成训练图，将教师模型中的知识提取到学生模型中。在不同的基准模型和6个代表性数据集上的大量实验表明，本发明的方法在图形分类任务上明显超过了最新的无数据基线。在没有任何实际数据的情况下，本发明成功地减少了误差，得到了一个性能相对较好的学生模型，可以有效地应用于不同的网络体系结构。本发明的方法是第一个提出有效的、端到端的无数据的图知识蒸馏框架，为今后的研究工作奠定了坚实的基础。