/Distributed-Log-Integration

Alignment Tool for Distributed Logs 分布式系统日志对齐工具

Primary LanguagePythonGNU General Public License v3.0GPL-3.0

Distributed Log Integration

分布式系统中的日志对齐工具

需求

复杂的系统中有不同角色的节点机器,每个节点上各个组件都有各自的日志文件,本地和远端的不同节点之间又有着千丝万缕的协作关系,所以在分析某个bug时要把大量的日志根据bug出现的时间对应起来,是个麻烦的事情。

功能

  • 单独写了一个抓取脚本,把匹配的文件包复制到本地upload目录。
  • 把各个节点的log bundle解压缩,集合起来并按原结构存储。
  • 给一个时间片段,匹配并集合该时间段内的所有log。
  • 生成一个html页面便于查看结果。

Issue

  • 不同日志的时间格式可能不同
  • 不同机器的时区设置可能不同

ToDo

  • Web爬虫引擎,支持从一个Web URL往里迭代搜索,把匹配的数据放到input。