ipd

批量ip反查服务, 批量获取ip的地理位置信息,包括国家,省份,城市,ISP以及地理位置,支持国内外ip，目前仅支持ipv4.

基于gin框架构建, 默认端口6789,可在config.toml中修改服务端口以及其他配置项

从源代码构建

下载包管理器dep
```
go get -u github.com/golang/dep/cmd/dep
```
确保dep在环境变量PATH中

下载ipd源码

export GOPATH=`pwd`
go get -d github.com/golang/xin053/ipd

安装依赖
```
dep ensure
```

构建ipd可执行文件

cd github.com/golang/xin053/ipd
go build ipd.go

或者

go build -ldflags "-w -s" ipd.go

使用
```
# 运行
./ipd
# 停止
kill -2 pid
```

使用

ipd提供四种ip反查的方式:

通过纯真ip数据库(目前更新到2018-09-25)

纯真ip数据库官网,下载可能需要翻墙,下载后安装会释放出qqwry.dat文件,也可以使用 UniExtract2 直接解压出文件
通过GeoLite2数据库
通过ip2region数据库,启动服务时会自动从github下载最新的数据库文件(最优先)
通过公开的 REST API方式, 目前支持四种接口:
1. 淘宝ip查询接口:http://ip.taobao.com/service/getIpInfo.php?ip=
2. 新浪ip查询接口:http://int.dpool.sina.com.cn/iplookup/iplookup.php?format=json&ip=
3. 太平洋ip查询接口:http://whois.pconline.com.cn/ipJson.jsp?ip=
4. 百度ip查询接口:http://api.map.baidu.com/location/ip?ak=yourAK&ip=

API

从公共API获取ip信息

接口

POST /v1/api

请求头

Authorization = thisisaveryimportantkey(key可在config.go中配置)
Content-Type = application/json

Body

{
    "ip":
        ["111.111.111.111", "8.8.8.8"]
}

[
    {
        "ip": "8.8.8.8",
        "country": "美国",
        "region": "",
        "city": "",
        "isp": "Google公共DNS",
        "geo_x": 0,
        "geo_y": 0
    },
    {
        "ip": "111.111.111.111",
        "country": "",
        "region": "",
        "city": "",
        "isp": "日本东京市KDDI通信公司",
        "geo_x": 0,
        "geo_y": 0
    }
]

从纯真ip数据库获取ip信息

接口

POST /v1/db

请求头

Authorization = thisisaveryimportantkey(key可在config.go中配置)
Content-Type = application/json

Body

{
    "ip":
        ["111.111.111.111", "8.8.8.8"]
}

[
    {
        "ip": "8.8.8.8",
        "country": "美国",
        "region": "",
        "city": "",
        "isp": "Google公共DNS",
        "geo_x": 0,
        "geo_y": 0
    },
    {
        "ip": "111.111.111.111",
        "country": "",
        "region": "",
        "city": "",
        "isp": "日本东京市KDDI通信公司",
        "geo_x": 0,
        "geo_y": 0
    }
]

从GeoLite2数据库获取ip信息

接口

POST /v1/db2

请求头

Authorization = thisisaveryimportantkey(key可在config.go中配置)
Content-Type = application/json

Body

{
    "ip":
        ["111.111.111.111", "8.8.8.8"]
}

[
    {
        "ip": "8.8.8.8",
        "country": "美国",
        "region": "",
        "city": "",
        "isp": "Google公共DNS",
        "geo_x": 0,
        "geo_y": 0
    },
    {
        "ip": "111.111.111.111",
        "country": "",
        "region": "",
        "city": "",
        "isp": "日本东京市KDDI通信公司",
        "geo_x": 0,
        "geo_y": 0
    }
]

从ip2region数据库获取ip信息

接口

POST /v1/db3

请求头

Authorization = thisisaveryimportantkey(key可在config.go中配置)
Content-Type = application/json

Body

{
    "ip":
        ["111.111.111.111", "8.8.8.8"]
}

[
    {
        "ip": "8.8.8.8",
        "country": "美国",
        "region": "",
        "city": "",
        "isp": "Google公共DNS",
        "geo_x": 0,
        "geo_y": 0
    },
    {
        "ip": "111.111.111.111",
        "country": "",
        "region": "",
        "city": "",
        "isp": "日本东京市KDDI通信公司",
        "geo_x": 0,
        "geo_y": 0
    }
]

整合以上四种方式获取ip信息,先异步查ip2region数据库(默认的主数据库),查不到的ip再查纯真, 再查GeoLite2数据库,最后通过api查询

主数据库可在配置文件中配置(config.toml中的request_order配置)

接口

POST /v1/ip

请求头

Authorization = thisisaveryimportantkey(key可在config.go中配置)
Content-Type = application/json

Body

{
    "ip":
        ["111.111.111.111", "8.8.8.8"]
}

[
    {
        "ip": "8.8.8.8",
        "country": "美国",
        "region": "",
        "city": "",
        "isp": "Google公共DNS",
        "geo_x": 0,
        "geo_y": 0
    },
    {
        "ip": "111.111.111.111",
        "country": "",
        "region": "",
        "city": "",
        "isp": "日本东京市KDDI通信公司",
        "geo_x": 0,
        "geo_y": 0
    }
]

项目结构

api\
   |api.go                      # api 方式查询 ip 信息主文件
   |baidu.go                    # 百度 ip API 服务解析
   |base.go                     # 通用接口
   |pconline.go                 # 太平洋 ip API 服务解析
   |sina.go                     # 新浪 ip API 服务解析
   |taobao.go                   # 淘宝 ip API 服务解析
config\
      |config.go                # 从 config.toml 读取配置以及其他配置
es\
  |es.go                        # elasticsearch 存储相关
geolite2\
        |geolite2.go            # db2 方式查询 ip 信息主文件
ip2region\
         |ip2region             # db3 方式查询 ip 信息主文件
         |lib                   # 解析 ip2region.db 的库文件
middleware\
          |auth.go              # 简单授权验证中间件
          |cors.go              # cors 跨域中间件
          |json_logger.go       # 日志服务中间件
          |sentry.go            # sentry 服务
qqwry\
     |qqwry.go                  # db 方式查询 ip 信息主文件
server\
     |server.go                 # /v1/ip 接口主文件
utils\
     |utils_test.go             # 工具包测试
     |utils.go                  # 工具包
config.toml                     # ipd 服务使用的配置文件
GeoLite2-City.mmdb              # geolite2 数据库二进制文件
Gopkg.lock                      # dep 包管理器 lock 文件
Gopkg.toml                      # dep 包管理器 toml 文件
ip2region.db                    # ip2region 数据库二进制文件
ipd.go                          # ipd 服务 main 包
qqwry.dat                       # 纯真 ip 数据库二进制文件
README.md                       # README

构建自己的ip信息数据库

ipd服务支持将查询过的ip信息添加到elasticsearch数据库,作后续其他的使用.默认启用elasticsearch存储

安装elasticsearch,建议安装最新版
修改config.toml中的elasticsearch段的url, 如果不想使用存储ip功能,将elasticsearch段注释即可

其他事项

程序默认使用sentry服务, 修改config.go中的dsn以使用自己的sentry,也可以注释掉config.toml中的sentry段来禁用sentry
更多设置请查看config.toml的备注说明

TODO

添加es接口，直接从es查询ip数据
增加精准查询接口(多种查询方式同时 goroutine，获取接口分析取最优)
添加缓存机制

Fractal-tributary/ipd

ipd

从源代码构建

使用

API

项目结构

构建自己的ip信息数据库

其他事项

TODO