风铃虫 1.3.0 发布了,新增请求上下文
风铃虫是一款轻量级的高效爬虫工具,配置简单,方便二次开发,能抓取js渲染的网页,可以抓取任何数据,支持保存网页快照,智能防封杀,天然适合分布式。
风铃虫本次更新功能较多,新增了通过脚本自定义数据提取功能,使得提取功能更加强大。
同时,为了普通用户更好的进行内容页判断,本次优化了内容页确认机制,可以更加方便的决定哪些页面的数据需要抓取,进一步提升抓取效率。
本次更新内容如下:
- 新增实例标识符,为每一个风铃虫实例生成一个唯一的标识符
- 新增设置实例别名功能,允许为风铃虫实例设置一个自定义别名
- 新增同步启动接口
- 优化内容解析器和连接解析器生成过程
- 优化下载器接口,提供更多信息,进一步提升性能
- 优化资源调度员,提供请求上下文信息,方便自定义控制
- 优化信息携带机制,可以通过抓取结果获取更多信息
- 其他一些代码优化
源码地址: https://gitee.com/zhiyubujian/wind-bell
API文档: https://apidoc.gitee.com/zhiyubujian/wind-bell/