/VideoCrawlerEngine

视频爬虫引擎是以自定义脚本为草图,生成请求器工作流,实现可控可视的流水线执行。 意在提高脚本的开发效率,让开发者专注于解决反爬。

Primary LanguagePythonApache License 2.0Apache-2.0

VideoCrawlerEngine

视频爬取引擎

视频爬虫引擎是以自定义脚本为草图,生成请求器工作流,实现可控可视的流水线执行。 意在提高脚本的开发效率,让开发者专注于解决反爬。

WEB UI

UI 1 UI 2

环境搭建

pip install -r requirements.txt

使用方法

python main.py

架构草图

架构草图

Requirements

  • Python >= 3.6
  • Nbdler >= 3.0.3
  • PyJSCaller >= 0.2.0
  • Flask

许可证

Apache-2.0

TODO

  • 脚本开发文档
  • 请求器开发文档
  • 脚本执行和web server实现进程隔离

关于

项目已完成初步开发,后续的开发主要倾向于功能的完善和修复漏洞。