实现了Chinadaily上特定关键字(COVID-19)相关新闻的爬取和数据分析,可以修改已有代码爬取和分析其他新闻网站。
- 安装python,可以通过安装anaconda来安装python运行环境。检查是否安装成功,可以控制台(cmd)中输入python --version,如果输出版本号,说明安装成功了。
- 安装依赖包,大部分应该已经装好了。在cmd中执行:
pip3 install numpy matplotlib pillow wordcloud imageio jieba snownlp itchat requests
到此,软件安装完成。
执行
scrapy crawl chinadaily
会在工程目录下生成一个covid-19.html,里面包含了title和content。数据量比较大,执行的时候会一直console刷新消息,等待即可。
执行
python scrapy.py
可以生成词云图片
主要修改 crawler下的chinadaily.py文件,修改爬取的URL和parse()函数中的解析逻辑。