[原创] Windows rust使用LLVM pass
2022-9-19 16:21 3294
rust的编译器rustc用llvm进行中间代码生成(MIR-> LLVM IR 链接),所以我想尝试下在rust编译过程加个pass进行代码混淆,进而保护生产代码。
由于rust在Windows下有两种toolchain,一种是msvc,另外一种是用mingw的windows-gnu。由于LLVM在Windows下的动态库编译只能使用Mingw-w64环境,具体来源:LLVM官方CMake参数,并且rust自己编译的LLVM不支持动态链接。
即本文使用MSYS2下的Mingw-w64环境。
足够强劲的机器,大概20G的硬盘空间(固态更好),8G以上的内存,以及良好的网络链接
使用Ninja代替make能大幅提升速度,但是增加内存消耗(link时可能达到24G内存占用),若内存不足的可以在生产cmake build的时候使用MinGW Makefiles
或者Unix Makefiles
.,本文主要使用Ninja
作为主要构建工具.
空间占用:
内存占用:
从清华源 链接 下载最新的安装包,例如 msys2-x86_64-20220904.exe
然后直接安装
中间会卡一会,等一下就好
完成的时候不要直接启动它默认的终端
去开始菜单找msys2 - mingw64
安装编译依赖
pacman -S mingw-w64-x86_64-gcc mingw-w64-x86_64-ninja mingw-w64-x86_64-python3 mingw-w64-x86_64-cmake autoconf libtool
这里安装了gcc、ninja构建工具,mingw-w64版的python3,mingw-w64下的cmake,以及一些编译用到的工具
可自己从git官网下,也可以在msys2安装,看个人喜好
我偏向于使用官网下载的git,其他ide也能用上
下载64位Standalone Installer即可,安装过程可以按照个人喜好配置,如果只是为了本次编译就直接无脑下一步即可。
可从官网下windows安装包,也可以在msys2中安装mingw-w64-x86_64-cmake,但千万不能使用msys2提供的cmake包.
即使用pacman -S mingw-w64-x86_64-cmake
安装cmake, 本文使用msys2中的mingw-w64-x86_64-cmake.
若使用官网安装的cmake,需要在msys2 mingw中手动指定cmake.exe位置,即
/c/Program\ Files/CMake/bin/cmake -G "Unix Makefiles"
在官方github分支中找到你想要的版本,例如 1.63.0
然后在你自己的工作目录用命令
git clone --single-branch --branch 1.63.0 https://github.com/rust-lang/rust
克隆指定分支的rust源码
这里注意不要去llvm-org直接下载源码,以免出现不兼容等bug
在rust源码里有.gitmodules这个文件,打开看对应LLVM的分支,并克隆。例如 rust 1.63.0对着的LLVM版本rustc/14.0-2022-03-22
git clone --branch rustc/14.0-2022-03-22 https://github.com/rust-lang/llvm-project.git
添加LLVM obfuscator
由于LLVM14有两种pass方式,一种legacy pass一种new pass,LLVM官方正在逐渐用new pass淘汰legacy pass,所以这里使用new pass作为补丁
1 2 3 |
|
这里要注意,正常情况下是直接patch完毕的,如果应用patch错误有.rej文件出现,需要手动处理冲突。
成功应用patch截图:
修复LLVM 14的Link错误
无冲突应用完patch之后,需要去llvm-project/llvm/lib/Transforms/Obfuscation
目录,修改CMakeLists.txt
在 intrinsics_gen
之后添加以下内容
1 2 3 4 5 6 7 8 |
|
最终文件内容如图所示:
生成cmake构建项目:
在刚刚克隆的LLVM源码同级目录输入以下命令
cmake -G "Ninja" -S ./llvm-project/llvm -B ./build_dyn_x64 -DCMAKE_INSTALL_PREFIX=./llvm_x64 -DCMAKE_CXX_STANDARD=17 -DCMAKE_BUILD_TYPE=Release -DLLVM_ENABLE_PROJECTS="clang;lld;" -DLLVM_TARGETS_TO_BUILD="X86" -DBUILD_SHARED_LIBS=ON -DLLVM_INSTALL_UTILS=ON -DLLVM_INCLUDE_TESTS=OFF -DLLVM_BUILD_TESTS=OFF -DLLVM_INCLUDE_BENCHMARKS=OFF -DLLVM_BUILD_BENCHMARKS=OFF
命令解析:
1 2 3 4 5 6 7 8 9 10 11 12 |
|
具体参数可以查看LLVM的官方文档
开始编译:
cmake --build ./build_dyn_x64 -j 22
命令解析:
1 2 |
|
然后就是等待,这个时间可以刷会视频看看小说,大概20-40分钟,具体时长取决于机器配置。
安装(生成)LLVM
cmake --install ./build_dyn_x64
安装编译好的LLVM到llvm_x64目录
这里如果不需要对LLVM进行其他修改,可以删除build_dyn_x64目录,节省硬盘空间。
添加运行LLVM的依赖
由于是使用Mingw-w64的环境,编译出来的LLVM无法直接使用,需要去MSYS2的mingw64的bin目录复制下列dll到LLVM的bin目录。
需要复制的dll列表
1 2 3 4 |
|
编译完成后的目录结构:
成果:
进入rust源码目录,复制一份config.toml.example
到config.toml
如图所示
修改config.toml
在[rust]子项,debug = false
这里把debug关闭,提升速度
在[rust]子项,往下的channel设置成nightly
使用nightly channel才能设置LLVM pass的参数
在[target.x86_64-unknown-linux-gnu]子项,llvm-config
设置到刚刚我们编译的llvm目录下的llvm-config
修改x86_64-unknown-linux-gnu为x86_64-pc-windows-gnu
这里设置llvm-config选项后,就能跳过rustc编译的过程中编译非动态版本的LLVM
因为rustc(rust的编译器)是有几个不同的编译阶段
这里我只是大概了解了一下,可能会有些偏差,具体详情可以看官方文档以及源码的说明
其中,我们真正使用的是阶段2的文件作为我们自己的toolchain。由于我们的llvm是动态编译的,所以在阶段1->阶段2的时候编译出的rustc无法执行,需要跟LLVM一样需要手动补充依赖文件。
修改的文件:src/bootstrap/compile.rs
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
|
注意,上面的目录需要按照自己的实际情况修改
位置:
这里我们在创建完每个阶段的bin文件夹后,判断当前阶段,如果是阶段1就复制我们自己编译的LLVM的dll文件到当前阶段的bin文件夹,这样就能保证rustc的编译过程能完成。
这里有个小坑,如果没有在MSYS2装Git,但是在Windows下装了Git的,需要手动设置下环境变量,否则rust的编译脚本无法找到git
export PATH=$PATH:/c/Program\ Files/Git/bin
在mingw-w64窗口,进到rust的源码目录,执行
python x.py build
然后等待大概30-40分钟,具体时间取决于编译机器的配置以及网络情况。
编译完成:
成品:
在rust源码目录执行
python x.py build tools/cargo
等待20-30分钟,具体时长取决于编译机器的配置。
成品:
编译出来的cargo还是跟之前一样,缺少dll,从需要去MSYS2的mingw64的bin目录复制zlib1.dll到rust/build/x86_64-pc-windows-gnu/stage1-tools-bin
如果之前安装过rustup的可以跳过这个步骤
下载rustup-init.exe
到官网 点击rustup-init.exe (64-bit) 进行下载
设置rustup
选择ABI
这里选3,跳过安装vs
选择toolchain
这里选择2,自定义,并输入x86_64-pc-windows-gnu
选择toolchain频道
这里输入nightly
选择额外工具
这里默认即可(回车)
是否修改系统环境变量
这里选是,输入Y
然后进行安装
这里直接输入1,然后回车即可
完成
按回车退出即可.
打开一个新的cmd
配置toolchain
在cmd输入
rustup toolchain link my-rust-1.63.0 C:\Users\Administrator\Desktop\tutorial\rust\build\x86_64-pc-windows-gnu\stage1
其中:
1 2 |
|
设置成默认toolchain
在cmd输入rustup default my-rust-1.63.0
其中, my-rust-1.63.0
为刚才自定义toolchain的名字
验证
在cmd输入
rustup toolchain list
查看当前toolchain的状态
使用cargo new创建个hello world
设置项目参数
在项目根目录创建或者修改.cargo/config
如果.config目录不存在,自己创建一个.
config是一个文件
config的内容如下
1 2 3 4 5 6 |
|
说明:
1 2 3 4 5 |
|
编译
打开MSYS2 - MINGW64
在项目目录执行
cargo +my-rust-1.63.0 build -Z build-std=panic_abort,std,core,alloc,proc_macro --target x86_64-pc-windows-gnu --release
参数说明:
1 2 3 4 5 |
|
正常编译
使用命令:cargo +nightly-x86_64-pc-windows-gnu build --release
并不指定config编译
IDA如下:
混淆
使用命令:cargo +my-rust-1.63.0 build -Z build-std=panic_abort,std,core,alloc,proc_macro --target x86_64-pc-windows-gnu --release
编译
IDA如下:
看雪招聘平台创建简历并且简历完整度达到90%及以上可获得500看雪币~
最后于 5天前 被ny0c编辑 ,原因: 添加内容