/ZhihuCrawler

【停止维护】爬取知乎信息

Primary LanguagePython

2017.4.26更新

  • 实现功能为爬取指定关键字下所有问题及每个问题中的所有回答

  • 回答中文字和图片是分离的,因为从服务器返回的JSON数据中内容部分比较混乱,暂时只是粗暴的做了分离操作

  • 后续将加入多线程下载、爬取用户、爬取话题的功能

使用说明

  • 本程序实现爬取指定关键词下所有问题及所有回答,保存格式为csv格式

  • 采用模拟登陆,首次使用时需要输入账号和密码

  • 本程序基于Python3开发,使用包括requests、http、bs4、urllib和json等第三方库

  • 运行Main.py文件,无需做其他修改

  • 附带了Json.json文件,这是某个问题下从服务器返回的数据,可以根据需求手动修改GetContent.py文件中parserQuestion()方法中保存类别的信息