/Sharly

Primary LanguagePython

基于HMM的web异常参数检测

Agent

  • 说明

在Linux系统下监控网卡流量，提取HTTP请求数据、HTTP响应数据头，可以输出到屏幕、ES、Kafka。

  • 环境

TcpFlow python2.7

  • 使用

详见python2.7 agent.py --help

Job

  • 环境

Kafka、Hadoop、ES、Spark、Zookeeper

  • 使用
  1. 修改AppConfig.json，将对应的环境配置修改为自己的。
  1. 将spark依赖的jar包放到lib目录下
  1. 将python依赖的模块放到pylib下，可以是zip/egg文件，当然也可以在python解释器下安装好这些模块
  1. 在Spark Client节点使用StartJobShell.py提交任务，使用方法：python2.7 StartJobShell.py -j jobname,详见 --help