[发明专利]一种Android二进制文件漏洞检测方法及系统

说明书

本发明属于Android二进制文件漏洞挖掘技术领域，公开了一种Android二进制文件漏洞检测方法及系统,使用基于LLVM的插桩技术实现代码覆盖率信息的收集，作为在遗传算法中衡量种子适应度的评判标准，选择种子进行下一代的随机变异；使用机器学习中的RNN网络构造测试用例生成模型，使用大量某种格式的文件训练得到的测试用例生成模型，自动生成新的测试用例。本发明可以很好的对Android系统类库等二进制文件进行Fuzzing测试；使用机器学习技术，训练得到测试用例生成模型来生成初始测试用例，可以有效提高初始代码覆盖率，节省寻找一些路径所需的变异、执行时间，提高Fuzzing的效率。

技术领域

本发明属于Android二进制文件漏洞挖掘技术领域，尤其涉及一种Android二进制文件漏洞检测方法及系统。

背景技术

目前，业内常用的现有技术是这样的：

Fuzzing是一种黑盒测试技术，通过不断生成大量畸形测试数据来测试程序的鲁棒性和安全性。该技术的核心是测试用例生成技术，良好的测试用例生成技术能保证更高的代码覆盖率和测试效率。而Fuzzing中的测试用例生成技术又可分为生成型和变异型两种，生成型是根据预设的规则(如文件、协议的格式)直接生成测试用例，而变异型是通过对给定的种子测试用例进行变异，从而不断生成新用例。

代码覆盖率一直是影响模糊测(Fuzzing)测试效率的重要因素，Fuzzing测试用例则很大程度上影响代码覆盖率，而变异型测试用例生成技术中的随机变异方法会生成更多的格式错误的、无效的测试用例，使用最终只能达到一个较低的代码覆盖率，影响Fuzzing的效率。

此外，在Android平台上，Fuzzing技术也得到了广泛地应用，研究人员开发出了大量针对Android系统上层的应用程序、组件间通信机制的Fuzzing工具，如Intent Fuzzer，DroidFuzzer等，以及将ioctl等系统调用作为攻击向量，针对Android系统驱动漏洞的ADDFuzzer。2015年发布的MFFA，是一个专门针对Android系统中libstagefright库进行Fuzzing测试的工具，但是该框架仅仅使用了简单的随机变异策略来生成测试用例，生成大量格式错误的、无效的测试用例，使整个Fuzzing过程花费很多时间在没有意义的执行和变异上。

综上所述，现有技术存在的问题是：

(1)Fuzzing技术中的简单随机变异策略导致的代码覆盖率不高；

(2)目前大多数Android平台的Fuzzing工具是针对上层的应用程序和组件间通信机制，以及简单地针对系统调用进行测试，而缺少对Android系统框架以及系统类库的Fuzzing工具。

(3)Andorid平台的动态插桩技术多使用Hook技术来实现，而其主要应用于功能的改进和程序分析。如果在Fuzzing执行过程中进行动态插桩，会在一定程度上降低Fuzzing的效率。

解决上述技术问题的难度和意义：

首先，工具的整体使用了基于覆盖率反馈的灰盒Fuzzing技术，使用代码覆盖率信息来指导测试用例的变异，有目的性地生成有效的测试用例，避免了随机变异生成无效测试用例导致Fuzzing效率降低的问题。

实现了Android平台的基于覆盖率反馈的Fuzzing漏洞挖掘工具；

其次，将深度学习技术与Fuzzing漏洞挖掘技术相结合，提升了初始代码覆盖率，进一步提高了Fuzzing的效率；