- 该项目通过python脚本从巨潮网络的服务器获取**股市公告(上市公司和监管机构),公告信息存入数据库，公告文件下载到本地
- 还可支持文本抽取, 网页，API的查询和读取等功能
- python实现公告爬取下载，nodejs搭建网络服务，提供api和网页展示
- database/: 存放数据库的sql文件，可以用shell命令执行，创建数据库和数据表
- nodejs_query/: 存放node服务的代码
- python_scraw/: 存放python爬虫的程序, cninfo_main.py可实现较为全面的功能，annc文件下是用scrapy框架写的爬虫，正在逐渐完善，以后会替代cninfo_main.py
- 2plaintext/: 存放一个python小脚本，用于将pdf、doc、docx文件转为纯文本文件
- 准备好MySQL，Python等环境, 参考python_scraw/cninfo_main.py的头引入，下载一些python包
- 进入 database/ 执行 mysql -u $USER -p$PASSWORD <database.sql，创建数据库和数据表
- 在python_scraw/config中，修改文件路径和数据库配置
- 执行python cninfo_main.py 进行下载，参数介绍见 python_scraw/README.md
- 如需提供静态网站展示，可以用nodejs_query中的代码启动一个服务
- 2plaintext/ 下的程序可以抽取纯文本
本项目使用Python2.7