Tools

RE Toolkit nâng cao (2/5): giả lập và instrumentation với Unicorn, Qiling, Speakeasy, DynamoRIO

Tóm tắt

Debugger và DBI cho chương trình chạy trên máy thật, còn giả lập thay cả CPU lẫn hệ điều hành. Unicorn chạy riêng một hàm (ví dụ giải mã cấu hình mã độc), Qiling thêm loader và syscall, Speakeasy mô hình hoá Windows cho mã độc, DynamoRIO đo độ phủ để nạp vào Lighthouse hay Cartographer.

Mục lục

Bạn đang phân tích một mẫu mã độc trong phòng lab. Ghidra cho thấy địa chỉ máy chủ điều khiển (C2) bị mã hoá thành một mảng byte vô nghĩa, và một hàm giải mã dài vài trăm lệnh. Đọc tay từng lệnh thì mất cả buổi. Chạy thật mẫu đó thì rủi ro. Có cách thứ ba: cho đúng hàm đó chạy trong một CPU ảo, đọc kết quả, và mẫu không bao giờ chạm vào hệ điều hành thật của bạn.

Đó là việc của các công cụ giả lập (emulation) và instrumentation. Bài này đi qua bốn repo chủ lực: Unicorn, Qiling, Speakeasy và DynamoRIO. Một điều thú vị: theo file CREDITS của Unicorn, hai nhà phát triển chính đứng đầu danh sách là Nguyễn Anh Quỳnh và Đặng Hoàng Vũ, và anh Quỳnh cũng là cố vấn của Qiling.

Debugger, DBI hay giả lập: chọn cái nào?

Cả ba đều giúp bạn quan sát code đang chạy, nhưng khác nhau ở chỗ code chạy ở đâu:

Cách tiếp cậnCode chạy ở đâuMạnh nhất khiCông cụ
DebuggerCPU và OS thật, dừng ở breakpointXem trạng thái tại một điểm cụ thểGDB, x64dbg
DBI (dynamic binary instrumentation)CPU và OS thật, nhưng từng khối lệnh được chép lại và chèn code đoĐo độ phủ, trace mọi lệnh, fuzzing ứng dụng lớnDynamoRIO, Frida
Giả lập CPUCPU ảo, không có OSChạy riêng một hàm hoặc shellcode, kể cả khác kiến trúcUnicorn
Giả lập cả OSCPU ảo + OS mô phỏng (loader, syscall, API)Chạy cả file thực thi, firmware, mẫu Windows mà không cần máy đíchQiling, Speakeasy
DebuggerDBIGiả lậpChương trìnhGDB / x64dbgbreakpoint, dừng rồi xemOS + CPU thậtChương trìnhDynamoRIOchép từng khối lệnh + chèn đoOS + CPU thậtChương trình / shellcodeELF, PE, hàm lẻQiling / SpeakeasyOS mô phỏng: syscall, Windows APIUnicornCPU ảo: lệnh, thanh ghi, bộ nhớMẫu chạy thật → phải dùng VM cô lậpMẫu không chạm OS thậtQiling và Speakeasy đều dùng Unicorn làm nhân CPU
Hình động: ba cách quan sát code. Debugger và DBI cho chương trình chạy trên máy thật; giả lập thay cả CPU (Unicorn) lẫn hệ điều hành (Qiling, Speakeasy).

Unicorn: CPU ảo trong vài dòng Python

Unicorn là framework giả lập CPU dựa trên QEMU, hỗ trợ x86 (16/32/64-bit), ARM, ARM64, MIPS, PowerPC, RISC-V, SPARC, S390X, M68K và TriCore. Lõi viết bằng C, có binding cho Python, Rust, Go, Java, .NET và nhiều ngôn ngữ khác. Unicorn chỉ biết lệnh máy: không biết file ELF/PE, thư viện động hay syscall. Bạn tự cấp phát bộ nhớ, nạp byte code, đặt thanh ghi, rồi bảo nó chạy. Chính sự “trần trụi” này làm nó hợp để chạy riêng một hàm.

Ví dụ dưới mô phỏng đúng tình huống mở bài: một vòng lặp XOR giải mã chuỗi, viết bằng 11 byte mã máy x86-64. Trong thực tế bạn chép mảng byte đã mã hoá và mã của hàm giải mã từ Ghidra. Ở đây ta tự tạo dữ liệu để ví dụ chạy độc lập.

# pip install unicorn
from unicorn import Uc, UC_ARCH_X86, UC_MODE_64, UC_HOOK_CODE
from unicorn.x86_const import UC_X86_REG_RSI, UC_X86_REG_RCX

# xor byte [rsi], 0x5A ; inc rsi ; dec rcx ; jnz (quay lại đầu)
CODE = bytes.fromhex("80365A" "48FFC6" "48FFC9" "75F5")
CODE_ADDR, DATA_ADDR = 0x1000000, 0x2000000
blob = bytes(b ^ 0x5A for b in b"http://c2.example/cfg")  # thực tế: chép từ mẫu

mu = Uc(UC_ARCH_X86, UC_MODE_64)
mu.mem_map(CODE_ADDR, 0x1000)
mu.mem_map(DATA_ADDR, 0x1000)
mu.mem_write(CODE_ADDR, CODE)
mu.mem_write(DATA_ADDR, blob)
mu.reg_write(UC_X86_REG_RSI, DATA_ADDR)   # tham số 1: con trỏ dữ liệu
mu.reg_write(UC_X86_REG_RCX, len(blob))   # tham số 2: độ dài

steps = 0
def on_code(uc, address, size, user_data):   # gọi trước mỗi lệnh
    global steps
    steps += 1
mu.hook_add(UC_HOOK_CODE, on_code)

mu.emu_start(CODE_ADDR, CODE_ADDR + len(CODE))
print(bytes(mu.mem_read(DATA_ADDR, len(blob))).decode(), "|", steps, "lệnh")

Kết quả mong đợi là chuỗi http://c2.example/cfg hiện ra sau 84 lệnh (21 vòng × 4 lệnh). Hook không chỉ để đếm: bạn có thể hook theo lệnh, theo basic block, theo từng lần đọc/ghi bộ nhớ, hoặc bắt truy cập bộ nhớ chưa map để biết hàm cần thêm dữ liệu gì.

  • Bẫy thường gặp: hàm gọi sang malloc, strlen hay một syscall là Unicorn dừng lỗi, vì không có OS. Hãy tự viết stub bằng hook, hoặc chuyển lên Qiling.
  • Nhớ map vùng stack và đặt RSP nếu hàm có push/call, như trong file test x86-64 chính thức của dự án.
  • Bản phát hành mới nhất là 2.1.4. Giấy phép GPL-2.0: cần cân nhắc nếu bạn định nhúng Unicorn vào sản phẩm đóng gói bán ra.

Qiling: thêm hệ điều hành lên trên Unicorn

Trang GitHub của qilingframework/qiling
qilingframework/qiling trên GitHub (ảnh chụp 11/2026)

GitHub: https://github.com/qilingframework/qiling · khoảng 6 nghìn sao · Python · GPL-2.0

Qiling dùng Unicorn để chạy lệnh, nhưng tự lo phần Unicorn bỏ trống: loader cho PE, ELF, Mach-O, trình liên kết động, xử lý syscall và I/O. Nó giả lập Windows, macOS, Linux, Android, BSD, UEFI, DOS và MBR trên nhiều kiến trúc (x86, x86-64, ARM, ARM64, MIPS, RISC-V, PowerPC). Theo README, điểm khác với QEMU user mode là Qiling là framework Python, cho hook ở mọi cấp (lệnh, basic block, bộ nhớ, syscall), vá code khi đang chạy, lưu và khôi phục trạng thái, có cả GDB server. Nó còn chạy được file ELF của Linux ngay trên Windows.

pip install qiling
qltool -h

# Chạy binary với rootfs (thư mục chứa thư viện của hệ đích)
qltool run -f examples/rootfs/x8664_linux/bin/x8664_hello --rootfs examples/rootfs/x8664_linux/

# Bật GDB server để gắn IDA/GDB vào và debug từng bước
qltool run -f examples/rootfs/x8664_linux/bin/x8664_hello --gdb 127.0.0.1:9999 --rootfs examples/rootfs/x8664_linux
from qiling import Qiling

def on_check(ql):
    print("Đã tới hàm kiểm tra license")

ql = Qiling([r"rootfs/x8664_linux/bin/app"], r"rootfs/x8664_linux")
ql.hook_address(on_check, 0x401136)   # địa chỉ lấy từ Ghidra (binary không PIE)
ql.run()

Với firmware IoT, rootfs chính là thư mục bạn bung ra bằng binwalk hoặc unblob (xem bài phân tích firmware). README có ví dụ chạy httpd của một router ARM trên máy Ubuntu x86-64 và fuzz nó. Lưu ý: file mẫu và rootfs ví dụ phải tải riêng. Syscall nào chưa được hỗ trợ sẽ làm chương trình dừng, khi đó bạn tự viết hàm thay thế.

Speakeasy: “Windows giả” cho mã độc

Trang GitHub của mandiant/speakeasy
mandiant/speakeasy trên GitHub, bản v2.0.0 (ảnh chụp 11/2026)

GitHub: https://github.com/mandiant/speakeasy · khoảng 2 nghìn sao · Python · MIT

Speakeasy của Mandiant chạy file EXE, DLL, driver kernel và shellcode Windows trong một môi trường Windows được mô hình hoá thay vì máy ảo đầy đủ: API, tiến trình, luồng, hệ thống file, registry và mạng đều là giả. Nhờ vậy mẫu chạy được xa hơn so với chỉ có CPU ảo, và mọi hành vi được ghi vào một báo cáo JSON. Bản v2.0.0 vừa ra ngày 17/11/2026, cần Python 3.10 trở lên.

python3 -m pip install speakeasy-emulator

# Chạy mẫu, ghi báo cáo JSON rồi xem nhanh vài trường
speakeasy -t sample.dll --no-mp -o report.json 2>/dev/null
jq '{sha256, arch, file_type, runs: (.runs | length)}' report.json

# Shellcode thô: phải chỉ rõ kiến trúc
speakeasy --target shellcode.bin --raw --arch x86 --output report.json

# Xem lần chạy nào dừng sớm vì lỗi
speakeasy --target sample.exe | jq '.runs[].error'

Mặc định mọi tính năng đều bật: chạy cả các hàm export, tiến trình con, ghi độ phủ code và nội dung bộ nhớ cuối cùng. Mỗi tính năng có cờ --no-… để tắt cho chạy nhanh hơn. Dùng như thư viện Python, bạn có thể hook một API cụ thể, ví dụ add_api_hook(cb, "user32", "MessageBox*"), rồi đọc tham số đã giải mã. Bạn cũng giả lập được phản hồi DNS, HTTP qua file cấu hình để mẫu “tưởng” đã kết nối được C2.

  • Giới hạn: API nào chưa được mô hình hoá thì hành vi sau đó có thể sai. Mã độc có kỹ thuật chống giả lập cũng có thể nhận ra môi trường giả và đổi hướng. Báo cáo là điểm khởi đầu, không phải kết luận.

DynamoRIO: đo đạc chương trình chạy thật

DynamoRIO là nền tảng DBI. Chương trình chạy trên Windows, Linux hoặc Android thật (x86, x86-64, ARM, AArch64; macOS đang được phát triển), nhưng từng đoạn mã được chép vào bộ đệm và có thể bị sửa hoặc chèn thêm code đo trước khi chạy. Bộ cài kèm sẵn nhiều công cụ: Dr. Memory (tìm lỗi bộ nhớ), drltrace (trace lời gọi thư viện), drstrace (“strace cho Windows”) và drcov (đo độ phủ code). WinAFL, công cụ fuzz trên Windows của Google Project Zero, dùng DynamoRIO làm nhân đo độ phủ. Giấy phép chính là BSD, một số phần mở rộng dùng LGPL 2.1.

# Thu độ phủ: ghi file drcov.<app>.<pid>....log theo từng tiến trình
bin64/drrun -t drcov -- ./target input.bin

# Có mã nguồn? Đổi sang định dạng lcov rồi xuất HTML
tools/bin64/drcov2lcov -input drcov.target.30239.0000.proc.log -src_filter mydir
perl tools/bin64/genhtml coverage.info

Không có mã nguồn thì nạp file .log vào Lighthouse (plugin cho IDA Pro và Binary Ninja) hoặc Cartographer (plugin Ghidra của NCC Group). Chúng tô màu các basic block đã chạy ngay trong trình dịch ngược. So hai lần chạy (đăng nhập đúng và sai) là thấy ngay nhánh code quyết định. Nếu cần hook linh hoạt bằng JavaScript thì Frida vẫn tiện hơn, xem bài phân tích động.

Quy trình mẫu: giải mã cấu hình mà không chạy mẫu

Mẫu mã độc (trong VM lab, không mạng)Mẫu lạ.exe / .dllSpeakeasyreport JSON:API, URL, fileGhidratìm hàm giải mã+ mảng byteUnicornchạy riênghàm đóConfig rõC2, khoá, tên mutexPhần mềm của bạn (đo độ phủ)Chương trình+ input thửdrrun -t drcovDynamoRIOdrcov.*.logbasic block đã chạyLighthouse /Cartographertô màu codeNhánh nào chưa được tô màu = input của bạn chưa chạm tới → bổ sung test hoặc fuzz
Hình động: hai quy trình hay dùng nhất. Hàng trên phân tích mẫu lạ mà không cho nó chạy thật; hàng dưới đo độ phủ trên phần mềm của chính bạn.
  1. Phân loại bằng Speakeasy: chạy mẫu trong VM lab không có mạng, đọc báo cáo xem nó gọi API gì, tạo file gì, có chuỗi URL nào lộ ra không.
  2. Khoanh vùng trong Ghidra: nếu config vẫn bị mã hoá, tìm hàm được gọi ngay trước khi dữ liệu được dùng. Ghi lại địa chỉ hàm, vùng dữ liệu và quy ước truyền tham số.
  3. Chạy riêng bằng Unicorn: nạp mã hàm và mảng byte như ví dụ trên, đặt thanh ghi tham số, đọc kết quả. Viết thành script để giải mã hàng loạt mẫu cùng họ.
  4. Hàm phụ thuộc OS: chuyển lên Qiling (Linux, firmware) hoặc dùng API hook của Speakeasy (Windows).
  5. Với phần mềm của bạn: dùng drcov đo độ phủ khi chạy test, tìm vùng code chưa được kiểm thử, làm đầu vào cho fuzzing.

Rủi ro, pháp lý và đạo đức

  • Giả lập không phải hộp cát tuyệt đối. Unicorn và Qiling chạy trong tiến trình Python của bạn, và parser hay emulator đều có thể có lỗi. Luôn phân tích mẫu lạ trong máy ảo không có mạng, có snapshot.
  • DBI và debugger cho mẫu chạy thật, tức là mẫu có toàn quyền như một chương trình bình thường. Không bao giờ làm việc này trên máy cá nhân hay máy công ty.
  • Giấy phép: Unicorn và Qiling dùng GPL-2.0, Speakeasy MIT, DynamoRIO chủ yếu BSD. Đọc kỹ trước khi đưa vào sản phẩm thương mại.
  • Pháp lý: chỉ phân tích phần mềm của bạn, mẫu mã độc thu thập hợp pháp, hoặc phần mềm bạn được uỷ quyền bằng văn bản. Điều khoản cấm dịch ngược trong EULA vẫn có hiệu lực ở nhiều nơi.

Áp dụng thế nào?

  • Dev: bắt đầu với Unicorn và một hàm nhỏ tự biên dịch, so kết quả giả lập với kết quả chạy thật. Dùng drcov đo độ phủ test của chính dự án bạn trước khi động tới mẫu lạ.
  • Tech Lead / SOC: chuẩn hoá một VM phân tích có sẵn Speakeasy, Qiling, Unicorn, Ghidra. Viết script giải mã cấu hình thành thư viện dùng chung cho cả team, kèm mẫu test.
  • PM: giả lập rút ngắn việc trích xuất IOC (địa chỉ C2, khoá) từ nhiều giờ đọc tay xuống vài phút chạy script. Đổi lại cần thời gian đầu tư dựng lab và viết script lần đầu.

Loạt bài RE Toolkit nâng cao

  1. Dịch ngược Java và Python: Recaf, Vineflower, pyinstxtractor
  2. Giả lập và instrumentation: Unicorn, Qiling, Speakeasy, DynamoRIO (bài này)
  3. Dựng lab phân tích mã độc: FLARE-VM, REMnux, CAPEv2, PE-sieve
  4. radare2, Rizin và tự động hoá với r2pipe
  5. AI hỗ trợ dịch ngược: LLM4Decompile, Gepetto, ReVa, Decompiler Explorer

Mới bắt đầu? Đọc loạt nền tảng từ Reverse Engineering (1/5): từ mã nguồn đến binary và assembly, và bộ công cụ cơ bản từ RE Toolkit (1/5): MCP server cho reverse engineering.

Nguồn & tham khảo

  1. Unicorn Engine (README, CREDITS, Python bindings) — unicorn-engine (GitHub)
  2. Tutorial for Unicorn — unicorn-engine.org
  3. Qiling Framework (README, CREDITS) — qilingframework (GitHub)
  4. Qiling Installation — Qiling wiki
  5. Speakeasy (README, CLI reference, library usage) — Mandiant (GitHub)
  6. DynamoRIO — DynamoRIO (GitHub)
  7. Code Coverage Tool (drcov) — dynamorio.org
  8. Lighthouse – Collecting Coverage — gaasedelen (GitHub)
  9. Cartographer — NCC Group (GitHub)