爬虫:妹子图全站套图 图片来源: http://www.mzitu.com 简介: 本爬虫最终获取到妹子图全站图片,大小预计在13G左右,耗时较长。 部分预览: 使用说明: 直接copy到本地 将settings文件里的 IMAGE_STORE 选项更改为想要保存到的地址 结语 加深了对scrapy的理解。 总的来说,项目简单,没有太大的反爬机制,比如复杂的换UA,挂代理IP等都不需要,但是比较坑的一点是必须要加referer,否则就会被反 感谢!