/spider

一个简单的URL爬虫

Primary LanguagePython

#一个简单的网站url爬虫,基于python实现

###参数介绍

LEVEL

指的是扫描几级目录,当然目录为1级

URL

指的是要扫描的URL

NEED_SAME_HOST

暂时没有对外开放,指的是是否需要和扫描URL的HOST相同,默认True