El scraper está hecho con Scrapy, una librería de Python.
Versión recomendada de Python: 3.6 Versión recomendada de Pip: 18.1
Creamos el venv
python3 -m venv ./venv
Instalamos las dependencias
pip3 install -r requirements.txt
Si usas Python 3.7, da un error que se puede solucionar ejecutando
pip3 install git+https://github.com/twisted/twisted.git@trunk
scrapy crawl {spider_name} -o {json_path}
Siendo spider_name
el nombre de la araña y json_path
el JSON en el que se va a
volcar el scrapeo.
Scrapy escribe al final del fichero por lo que en sucesivas
ejecuciones habría que borrar el JSON si ya existe.
Ejemplo de uso
scrapy crawl meetup -o output/meetup.json
El api está en el directorio api
Para instalar las dependencias del API nos metemos en su directorio y ejecutamos: npm install
Documentación de la API en swagger: http://localhost:3000/api/v1/spec
Para ejecutar el API: npm start
Una vez lanzado la vemos en --> http://localhost:3000/api/v1/events
#eventpoints_new
en Slack