概览

一个转发http请求的服务，主要用于在内网中转发API请求，比如OpenAI。

用法

首先需要有一个类似下面的yaml配置文件：

server:
  host: "0.0.0.0"   # 服务监听的地址
  port: 2323        # 服务监听的端口（防火墙需要打开这个端口或者docker暴露这个端口）
proxies:            # 配置代理信息，是一个[{target,proxy}]的数组，最后会转换成{target:proxy}这样的字典，支持协议和域名匹配（这里的target和下面的forwarders里面的target是对应的），详细参考https://requests.readthedocs.io/en/latest/user/advanced/#proxies
  - target: "https://api.openai.com"  # 转发"https://api.openai.com"的时候使用"http://proxy1:1204"这个代理
    proxy: "http://proxy1:8080"
  - target: "https://www.baidu.com"
    proxy: "http://user1:pass1@proxy2:8080"  # 带用户密码认证的代理服务器
forwarders:         # 配置转发信息，通过请求的host来确定转发到哪一个地址
  - description: "forward openai test"
    host: "host1"   # 如果请求的主机名是"host1"那么就转发到"https://api.openai.com"
    target: "https://api.openai.com"
    headers: ["Content-Type", "Authorization"]  # 当前需要转发的请求头，主要用于转发认证信息
  - description: "forward baidu test"
    host: "host2"
    target: "https://www.baidu.com"

将上面文件保存为config.yaml后可以直接通过下面命令启动：

python http-forwarder.py

或者通过docker：

docker run -d -v $PWD/config.yaml:/app/config.yaml -p 2323:2323 ecat/http-forwarder

也可以带上-c /path/to/config.yaml参数手动指定config.yaml文件路径。

这样启动服务后客户端请求http://host1:2323/v1/chat/completions，实际上服务器会通过代理http://proxy1:1204访问https://api.openai.com/v1/chat/completions并且转发请求，然后再把结果返回给客户端，非常适合内网环境。

反向代理

如果部署在nginx这样的反向代理服务后面，那么需要手动加上X-Forwarded-Host头字段，否则无法正确识别请求的Host，下面是一个nginx的示例：

server {
    listen 80;
    server_name host1;
    server_name host2;
    location / {
        proxy_set_header X-Forwarded-Host $host;
        proxy_pass http://127.0.0.2:2323;
    }
}

ecator/http-forwarder

概览

用法

反向代理