/logCollect

日志收集系统

Primary LanguageGo

logCollect

kafka日志收集系统

初步模型

  • 设计目的:简化日志收集
  • 使用方法:运行tools中的代码,设置etcd中的key,然后运行main的程序,开始收集collect日志
  • 设计原理:etcd配置收集信息,使用tailf包追踪文件的变化,然后使用channel来传输对应的message给kafka,然后对应的机器去链接kafka即可消费对应的日志信息
  • 提供的kafka测试地址:47.107.54.187:9092
  • 启动本程序前需要保证对应的ip地址的kafka和zookeeper已经启动

增加etcd动态配置

  • 可以使用etcd动态配置,etcd的地址在conf中填写
  • 提供测试的etcd地址:47.107.54.187:2379
  • 提供测试etcd可视化界面地址:47.107.54.187:8000