首页
论坛
专栏
课程

[原创]漏洞挖掘技术之 AFL 项目分析

2019-3-9 11:35 1267
BDomne
5

[原创]漏洞挖掘技术之 AFL 项目分析

2019-3-9 11:35
1267

漏洞挖掘技术之 AFL 项目分析


作者:BDomne

0 引子

AFL(american fuzzy lop)在前 Google 安全研究员 lcamtuf 耗时数年心血的努力下已经日臻完善,俨然成了 fuzz 工具中独树一帜的存在,相关项目可谓竞相学习与借鉴。目前其更新时间停留于 17 年末,即本文所分析的 2.52b 版本,这之后 lcamtuf 大佬的爱好似乎更热衷摆弄工艺品了;b 源码的阅读需要具备基本的 C 语言和 shell 脚本编程功底,因其代码量适当且编程风格良好,亦不失作为 C 语言开源项目学习的好选择。

1 概述

我们知道软件开发周期中有一个测试环节,也就是找 bug,当项目过大时仅靠人工审计很可能会有所遗漏,这时 fuzz 模糊测试就有了用武之地,即借助计算机的算力来辅助完成测试任务。而对于那些已发布的软件再进行同样的测试环节则称为漏洞挖掘,本文的主角 AFL 就是这样的一个 fuzz 利器,当然,更多时候是针对解析器的文件 fuzz,我们先大体介绍下原理,接着将从源码角度剖析其具体实现。

简单来说,AFL 的设计就是在 dumb fuzzer 之上加了一层基于边界(edge)覆盖率的反馈机制,其 fuzz 方案如下图所示。在此过程中 AFL 会维护一个语料库队列 queue,包含了初始测试用例及变异后有新状态产生的测试用例,对应的变异操作分为确定性策略和随机性策略两类,而状态的分析,即边界覆盖率的统计工作,需依赖插桩来完成。


图0 afl-fuzz 的实现方案

这里提下插桩,它指的是通过注入探针代码来实现程序分析的技术。接下来我们重点关注什么是新状态,如图 1 所示,蓝色块代表程序执行过程中的基本块,黄色块代表相应的用于统计的探针代码,因而我们可以完整记录程序的执行路径,即:A -> C -> F -> H -> Z。另外,在 AFL 中为了更方便的描述边界(edge),将源基本块和目的基本块的配对组合称为 tuple,即下图路径中有 4 个 tuple(AC,CF,FH,HZ)。


图1 程序执行路径

很自然,通过记录 tuple 信息就可以统计边界覆盖率了,AFL 通过一个 bitmap 来记录这些信息,不过 bitmap 是以 byte 而非 bit 作为单位,因为程序还要记录 tuple 的命中数,而命中数又被划分成如下 8 个组别:

当有新的 tuple 出现或已有 tuple 中出现新的命中组则视为产生新状态,相应的测试用例将被归入到语料库中。可以看到,AFL 所做的仅是挑选新状态,对基本块间的关联性未去深究。此外,AFL 之所以不采用基本块覆盖率,是因为漏洞往往是由未知的或非正常的状态转换导致的,故边界覆盖率更合适些。

借助上述遗传算法,fuzz 过程中目标程序的边界覆盖率将不断提高,我们也就有了更大概率去发现漏洞。

最后,为方便读者能对 AFL 项目代码有个整体的认识,这里给出简要的文件目录解析:



2 插桩模块

我们先来讨论与插桩有关的源码。在 AFL 中一共有三种不同模式的插桩操作,如下图,其中普通模式和 llvm 模式是针对目标程序提供源码的情况,显然相较汇编级的普通模式插桩,编译级的 llvm 模式插桩包含更多优化,在性能上会更佳些,而对仅提供二进制文件的目标程序则需借助 qemu 模式,其性能是最低的。本小节主要介绍普通模式下的插桩,另外两种模式与之相似,所插入代码从用途上都是分为两类:1)记录目标程序执行过程中的 tuple 信息,需保证在每个基本块上都有插入;2)必要的初始操作以及维护一个 forkserver。


图2 AFL 中用到的插桩技术

2.1 普通模式

我们知道源代码编译实际上分为预处理、编译、汇编和链接四个不同阶段,而 gcc 中的 -B prefix 选项可用于指定各阶段执行文件的优先查找目录。故普通模式下 AFL 采用的插桩思路是先对 gcc 做一层简单封装,这些操作中有一项是设定 -B prefix 选项并指向伪造的(即封装后的)as 汇编器所在目录:


图3 设置 as 汇编器优先查找目录

接着流程自然将交由封装后的 as 汇编器来处理前面生成的汇编文件,亦即插入指令后再交由真正的 as 汇编器处理,这里将会查找汇编文件中的 .text 节区并在各控制转移指令处插入跳板 trampoline_fmt_32/trampoline_fmt_64:


图4 向汇编文件插入探针指令

分析可知跳板的作用是跳转到具体的实现部分 main_payload_32/main_payload_64,此部分指令只会插入一次。鉴于插入代码同时支持 32 位和 64 位程序,为了不赘述我们只看 main_payload_32 部分,其中一个分支是用于记录目标程序执行过程中的 tuple 信息,相关计算公式及实现代码如下:




图5 记录 tuple 信息

而另一分支在进行初始操作之外,主要作用还是维护 forkserver,它会将已经初始化好的目标进程,例如暂停在 main 函数入口,按需再 fork 出一个子进程交予 fuzzer 进行测试,即 fuzzer 是被 fuzz 进程的父父进程,借助 copy-on-write 特性,此方法可以极大的提高 fuzz 效率。forkserver 和 fuzzer 间是通过 pipe 管道进行通信的,除了控制命令,fork 成功后的 PID 以及 waitpid 返回状态都是借由此方式传递:


图6 forkserver 和 fuzzer 间的交互

因此,如果我们使用 afl-gcc 来代替 gcc 进行源码编译,那么得到的目标程序将被插入相关代码。

2.2 llvm 模式

该模式之所以能进行编译级插桩主要还是得益于 LLVM 优秀的架构设计,简言之,代码首先由编译器前端 clang 处理后得到中间代码 IR,再经过各 pass 工作节点的优化和转换,最终交给编译器后端生成机器码:


图7 LLVM 架构设计

AFL 的插桩思路是通过编写 pass 来实现 tuple 信息的记录,在此过程中会对每一基本块都插入探针,具体代码在 afl-llvm-pass.so.cc 文件。而初始化和 forkserver 操作则通过链接完成,afl-llvm-rt.o.c 文件实现了 afl-as.h 中 main_payload 的这部分功能:


图8 clang 编译参数设置

2.3 qemu 模式

最后提下 qemu 模式,AFL 在 DBI(Dynamic Binary Instrumentation)框架上选择的是对其性能支持较好的 QEMU,而非 DynamoRIO 或 PIN。对于该模式下的插桩,AFL 的思路是直接利用 QEMU 内置的跟踪功能,并通过 patch 源码的方式来实现 afl-as.h 中的操作:


图9 patch 源码实现 afl-as.h 中的操作

3 fuzzer 模块

我们继续往下,本小节将讨论 AFL 中最为重要的部分,即 fuzzer 实现,其主要作用是通过不断改变测试用例来影响目标程序的执行路径,当然,这里所采用的都是经过实践检验确是行之有效的方法策略,相关代码都在 afl-fuzz.c 文件,我们将围绕初始化、fuzzing 策略和语料库更迭来展开分析。

3.1 初始化

起始阶段 fuzzer 会进行一系列的准备工作,为记录插桩得到的目标程序执行路径,即 tuple 信息,这里通过名为 trace_bits 和 virgin_bits 的 bitmap 来分别记录当前的 tuple 信息及总的 tuple 信息,其中 trace_bits 位于共享内存上,能方便进程间的通信。另外,还分别通过名为 virgin_tmout 和 virgin_crash 的 bitmap 来记录 fuzz 过程中出现的所有目标程序 timeout 及 crash 时的 tuple 信息,它们的设置如下:


图10 记录 tuple 信息的 bitmap 设置

此阶段还有一个需要特别提的操作是 forkserver 上线,由 init_forkserver 函数来完成,也就是运行 afl-as.h 文件 main_payload 中维护 forkserver 的分支,这样一来 run_target 函数只需关注和 forkserver 的交互即可,而不必每次都重新创建一个目标进程,其中,fsrv_ctl_fd 管道用于写,fsrv_st_fd 管道用来读:


图11 forkserver 上线监听

此外,余下的关键初始操作大致可分为目录处理和前期检测两个类别,我们给出相关函数的简析:



3.2 fuzzing 策略

接着我们来看 fuzzing 策略,它在很大程度上关乎一个 fuzzer 的成败,因此变异引擎的设计颇显关键。为了得到更高的代码覆盖率,我们对测试用例施加的变化既不能过大也不能太小,同时还要平衡好各方面的效率,如何拿捏好这个度更像一门艺术。

在 AFL 中用到的 fuzzing 策略分为两类,即确定性策略和随机性策略。其中确定性策略又分为位翻转、字节翻转、算术加减、整数替换、字典替换和字典插入,目的是为了生成更多简洁有效的测试用例,不过由于此类策略比较耗时,因此测试用例只会进行一轮这样的操作。而如果一个测试用例在执行完随机性策略后仍未产生新状态,则会将其与另一测试用例随机拼接后再次交由随机性策略处理:


图12 变异引擎的 fuzzing 策略

对于各变异操作,基本的处理流程如下:



而在确定性策略 fuzzing 过程中,如果发现后续的变异操作已经在前面进行过了,为避免重复将会跳过该操作,如果没有重复则由 common_fuzz_stuff 函数将变异后的内容写入测试文件并运行目标程序:


图13 跳过重复的变异操作

3.3 语料库更迭

下面谈谈语料库的更迭,随着 fuzzing 的深入,目标程序会产生越来越多的执行路径,相应测试用例能否加入语料库 queue 队列取决于 trace_bits 是否出现新状态。我们已经知道 fuzzer 会通过 virgin_bits 来记录目标程序的总 tuple 信息,每个 tuple 对应一个字节,初始值为 0xFF,即各比特位均为 1。如此设计自是有用意,可否记得之前提过每个 tuple 都分为 8 个命中组,固每个比特位可对应一个命中组,若无此类新状态出现其值仍为 1,若出现其值则置 0。这也是为何执行完目标程序后要调用 classify_counts 函数对此次记录的各 tuple 命中数进行归组:


图14 按 tuple 的命中数归组

这样只需将执行完归组操作后的 trace_bits 和 virgin_bits 做个比对就能判断出是否有新状态产生,同时,采用位运算也是为了提高代码执行的速率:


图15 判断是否有新状态产生

另外,在 fuzzer 中维护着一个覆盖了当前所有 tuple 状态的语料库子集,这些测试用例被标记为 “favored”,它们在性能上相对较优,因此能获得更大的 fuzz 概率,即 fuzz_one 函数开始部分所做的判断。要得到这样的集合需要借助一个称为 top_rated 的数组,它保存有各 tuple 状态当前相应的最优测试用例,当有新状态产生时,我们判断其是否较 top_rated 中已有的成员更优:


图16 判断是否更新 top_rated 数组

如果 top_rated 数组被更新,那么之后会调用 cull_queue 函数,它会顺序遍历 top_rated 数组中的测试用例,直到选出的测试用例集合能完全覆盖当前所有的 tuple 状态,即完成语料库中 “favored” 集合的更新。

4 其它辅助模块

到目前为止我们已经讨论了 AFL 中最核心的 fuzzer 模块和实现边界覆盖率统计的插桩模块,那么接下来我们把重点放在辅助模块上,它们的设计初衷都是为了优化提升 fuzzer 的性能,不过有些特性还留有进步的空间。这里挑出其中比较有意思的 4 块内容进行阐述,也就是语料库及测试用例的最小化、并行 fuzzing、语法字典与内存检测工具。

4.1 语料库及测试用例的最小化

首先,为保证 fuzzing 的高效,我们有必要在语料库和测试用例两个层面进行一些精简化操作,前者使得 CPU 能将更多时间片用在较优测试用例的 fuzz 上,而后者使得测试用例在变异环节更有可能触发新状态,相关代码在 afl-cmin  和 afl-tmin.c 文件。

实际上 fuzzer 模块也内置有相关功能,不过出于执行速率的考量没设计的这么复杂。上小节最后提到的 “favored” 集合即为精简后的语料库子集,afl-cmin 中的思路类似但更复杂且会将冗余的测试用例删除。至于测试用例的最小化,其目的是尽可能的移除测试用例中的数据,同时保持目标程序的执行状态不变,对于不产生 crash 的测试用例我们可基于前面讨论的插桩技术来判断这些简化操作对目标程序的执行路径是否有影响,afl-tmin.c 中所用到的简化操作分为块清 '0'、块移除和字符清 '0':


图17 测试用例的简化操作

4.2 并行 fuzzing

同时,对 fuzzing 来说,计算资源是很重要的指标,AFL 在设计上支持并行 fuzzing,这就给了我们很大的可操作空间。由于每个 afl-fuzz 例程只占用 CPU 中的单核,因此这里的并行对单台多核 CPU 机器也是支持的,我们可以通过 afl-gotcpu 工具来获取 CPU 的使用情况,进而决定增加或减少 afl-fuzz 例程,并可通过 afl-whatsup 工具统计各并行例程的结果。并行的一大好处是可以实现各例程间的语料库共享,从而加快 fuzz 过程。

4.3 语法字典

而字典对 fuzzer 性能的提升也很关键,我们知道 AFL 变异引擎的确定性策略中包含字典替换和字典插入操作,这使得我们在 fuzz 一些强语法性的文件格式时能获得更高的代码覆盖率,虽然此方法离直接生成符合特定语法格式的测试用例还有距离,但实际效果也还算理想。libtokencap 目录下的代码旨在方便我们生成字典文件,通过对 strcmp()、memcmp() 这类函数进行类似 hook 的操作我们可提取参数中的语法关键字。

4.4 内存检测工具

此外,为了更好的检测与内存错误相关的 bug,AFL 还引入了对内存检测工具 asan(address sanitizer)的支持,但在 fuzzing 过程中由于内存开销太大,所以实用性还不强。libdislocator 目录下提供了一个更为简单的内存检测工具实现,当然就使用方面仍需改善。

5 结语

本文讨论了 AFL 项目中主要的设计思路,但并不涉及 experimental 目录下的那些新特性试验,这方面读者可自行研究。总体来看,AFL 在设计上遵循的是一套简单有效的方式,没做太多复杂的过度优化,能恰当的挠到痒处,而非追求看起来很酷实践后却是不尽如人意的隔靴搔痒。最后,笔者对于漏洞挖掘这块知识尚是初学,行文中如有错误或纰漏之处还望各位多加指正。

6 参考

[1] American fuzzy lop
[2] Real world fuzzing
[3] Fuzzing random programs without execve()
[4] afl-fuzz: making up grammar with a dictionary in hand




[推荐]看雪企服平台,提供安全分析、定制项目开发、APP等级保护、渗透测试等安全服务!

最后于 2019-3-9 11:41 被BDomne编辑 ,原因:
上一主题 下一主题
打赏 + 26.00
打赏次数 3 金额 + 26.00
收起 
赞赏  fatecaster   +20.00 2019/03/18 顶一下老同事
赞赏  爱中华UpTTT   +5.00 2019/03/12
赞赏  fyb波   +1.00 2019/03/11
最新回复 (6)
Cestlavie呀 2019-3-11 11:59
2
0
支持 版主
pureGavin 2019-3-11 21:52
3
0
mark,版主辛苦了
Editor 2019-3-12 11:04
4
0
666,支持~内容引起极度舒适~排版也很好啊
zhengsidie 2019-3-12 11:31
5
0
mark,版主辛苦了
fatecaster 1 1天前
6
0
支持一下
微步在线 16小时前
7
0
:)
最后于 47分钟前 被BDomne编辑 ,原因:
游客
登录 | 注册 方可回帖
返回