[发明专利]一种基于语法规则的深度神经网络自动生成方法

说明书

一种基于语法规则的深度神经网络自动生成方法，包括语法规则模块、安全检查模块、迭代生成模块、任务管理模块和数据处理模块。通过语法规则模块建立和更新语法规则，确保生成的深度神经网络模型的静态可用性；安全检查模块负责模拟深度神经网络模型的动态执行情况，以检查模型中的张量和拓扑关系，确保生成的深度神经网络模型的动态可用性；迭代生成模块逐层添加深度神经网络模型；任务管理模块生成和验证深度神经网络，实现对生成和验证任务的新建、查询、删除等操作；数据处理模块实现对待测框架类型和版本的新增和删除，同时对执行结果进行分析。多模块相互协同，以得到深度神经网络模型的生成报告及模型源文件，并提供测试结果预测等功能。

技术领域

本发明属于软件工程和深度学习领域，尤其是针对基于语法规则的深度神经网络自动生成方法在软件工程领域的应用，用于测试深度学习框架中是否存在缺陷。

背景技术

在过去的数年里，随着人们对神经网络研究的不断深入，深度神经网络模型在医疗诊断、自动驾驶、智能合约、智慧法院等领域展现了广阔的前景。这些模型是基于设计好的逻辑结构从训练数据中学到的推理方法的表示形式。开发者们通过组合不同的层等组件实现深度学习模型的逻辑结构。

与传统软件系统相比，基于深度学习的软件系统通常涉及更多复杂的组件，如深度学习框架。深度学习框架能够屏蔽底层实现，让开发人员无需重复实现每一层的计算单元，只关注模型的逻辑结构，在简化了计算的同时，降低了深度学习入门门槛，提高了开发效率。在深度学习模型的广泛使用中，深度学习框架功不可没。深度学习框架将模型的逻辑结构中的层和其他组件的实现封装成接口，并提供给开发者使用。深度学习框架降低了深度学习模型开发的难度，使得模型的开发者们可以将更多的精力放在模型的逻辑结构上。深度学习框架是基础平台，为简化、加速、优化DL开发和部署提供了通用工具。

深度学习框架已应用在丰富的应用场景中，它提供了子类化的接口进行研究，帮助开发者省去了大量繁琐的外围工作，专注于业务场景和模型设计。在这些阶段中，深度学习框架提供的接口实例化了模型的推理逻辑，模型也反映出了深度学习框架的缺陷和欠优化的部分。

深度学习框架的质量从根本上影响到了深度学习系统的质量，因此必须要通过测试来保证深度学习框架的质量，避免这些缺陷被引入到深度学习模型之中。深度学习软件的测试区别于传统的软件测试的一个特征在于他的核心底层行为会随着输入的新数据的变化而变化。这种面临新数据时的未知性也是其缺陷隐藏的地方。

深度学习框架作为一种特殊的深度学习软件，他的测试输入是深度学习模型。随着新的模型的生成，更多的深度学习框架的缺陷将会在深度学习模型依赖于深度学习框架的阶段暴露出来。

除了一些功能的未实现，深度学习框架的缺陷也会表现在优化方面。后者容易跟模型的逻辑结构中的缺陷混淆，难以通过少数几个模型暴露出来。

在模型检查方面，已经有一些研究者做了初步的工作，但是现有的工作局限于单个或是少量张量，很难针对任意张量进行检查，缺少较强的泛化能力。

总之，目前关于深度学习框架的测试还存在技术上的瓶颈。因此我们提出了一种基于语法规则的深度神经网络自动生成方法，旨在生成大量的深度学习模型，深入到深度学习框架提供支撑工作的训练、测试、转换和迁移阶段，研究深度学习框架的测试，并以工程化的方式实现了一个基于语法规则的深度神经网络自动生成系统。

发明内容

本发明要解决的问题是：如何获得大量的深度学习模型，并将深度学习框架的缺陷显性的表示出来，从而检测深度学习框架中是否存在缺陷，推动人工智能领域发展。

本发明的技术方案为：一种基于语法规则的深度神经网络自动生成方法，其特征是能够在有限的模型结构的基础上构造出大量的模型，并在模型生成阶段，基于语法规则随机抽取新的层来生成新的模型。为了能够进一步的暴露出深度学习框架中的缺陷，设计一套能够放大深度学习框架中缺陷的蜕变方法，最终开发出一套独立的基于语法规则的深度神经网络自动生成系统。该方法包含以下五个模块：