Spider网络爬虫Demo,主要功能有:抓取小说并保存到本地TXT文件;小说线上采集阅读;ip代理池维护,并制作简易流量爬虫;
国外:https://github.com/huanzi-qch/spider
国内:https://gitee.com/huanzi-qch/spider
具体介绍请看我的博客《spider》
项目 | 博客 |
---|---|
novel-gather | HttpClients+Jsoup抓取笔趣阁小说,并保存到本地TXT文件 |
novel-reading | httpclient+jsoup实现小说线上采集阅读 htmlUnit加持,网络小蜘蛛的超级进化 |
common-spider flow-spider |
免费IP代理池定时维护,封装通用爬虫工具类每次随机更新IP代理池跟UserAgent池,并制作简易流量爬虫 |
有事请加群,有问题进群大家一起交流!
QQ群名:Java交流群-huanzi-qch
QQ群号:1015379123
注:如果图片加载不出来请点击查看这里
请注意,作者五行缺钱,如果喜欢这个项目,请随意打赏!
支付宝
注:如果图片加载不出来请点击查看这里
微信
注:如果图片加载不出来请点击查看这里