URLFinder是一款用于快速提取检测页面中JS与URL的工具。
功能类似于JSFinder,开发由来就是使用它的时候经常返回空或链接不全,作者还不更新修bug,那就自己来咯。
URLFinder更专注于提取页面中的JS与URL链接,提取的数据更完善且可查看状态码与内容大小。
基于golang的多线程特性,几千个链接也能几秒内出状态检测结果。
有什么需求或bug欢迎各位师傅提交lssues
功能说明
1.提取页面的URL链接(页面URL最多深入一层,防止抓偏)
2.提取页面的JS链接
3.提取JS中的URL链接
4.提取到的链接可以显示状态码与响应内容大小 (带cookie操作时,可能会触发一些敏感功能,后台慎用)
5.支持提取批量URL
6.支持结果导出到csv文件
结果会优先显示输入的url顶级域名,其他域名不做区分显示在 other
结果会优先显示200,按从小到大排序(输入的域名最优先,就算是404也会排序在其他子域名的200前面)
使用截图
使用教程
单url时使用
URLFinder.exe -u http://www.baidu.com -s all -m 2
URLFinder.exe -u http://www.baidu.com -s 200,403 -m 2
批量url时使用
URLFinder.exe -s all -m 2 -f url.txt -o d:/
参数:
-u 目标URL
-a 自定义user-agent请求头
-s 显示指定状态码,all为显示全部
-m 模式: 1 正常抓取(默认), 2 深入抓取
-c 添加cookie
-f 批量url抓取,需指定url文本路径
-o 结果导出到csv文件,需指定导出文件目录(.代表当前目录)
更新说明
2022/8/27
-o 改为自定义文件目录
导出文件改为csv后缀,表格查看更方便
修复已知正则bug
2022/8/19
加长超时时间避免误判
2022/8/5
增加状态码过滤
状态码验证显示进度
修复域名带端口输出本地错误问题
2022/7/25
优化js规则
优化排序
根据状态码显示彩色字体
2022/7/6
完善规则
2022/6/27
优化规则
提供linux成品程序
2022/6/21
获取状态码从自动改为手动(-s)
添加显示响应内容大小
2022/6/16
优化提取规则增强兼容性
数组越界错误处理
2022/6/14
修复部分网站返回空值的问题
2022/6/13
添加自定义user-agent请求头功能
添加批量url抓取功能
添加结果导出功能
优化过滤规则
优化结果排版
2022/6/8
忽略ssl证书错误