gpt4free-ts-deploy: A repository from ratu-sh

部署步骤

克隆项目

git clone https://github.com/xiangsx/gpt4free-ts-deploy.git

配置环境变量

把env文件夹下面的示例文件*.env.example环境变量文件统统去除.example后缀
你基本只需要修改 run/config.json 其他配置不知道具体含义请勿修改

run/config.json 相关字段说明

# 所有site几乎都有的配置
size: 维持在线的账号池数量，比如poeauto的size=3，那么poeauto就会注册账号知道可以维持在线的账号数目=3
serial: 同时初始化的进程数量，比如可以同时注册2个poe账号，serial=2，机器配置不行的保持为1即可

# 负载均衡配置 非常推荐配置！！！！
site_map: 配置之后，可以使用auto站点，然后请求会自动根据你的配置权重负载均衡到各个site

# 代理池配置
proxy_pool.enable 只有开启才会使用代理池，否则使用环境变量里面配置的 
proxy_pool.proxy_list 绝大部分使用的代理池
proxy_pool.stable_proxy_list gemini使用的特殊池子，因为需要美国ip

配置代理有些站点需要服务器配置代理，方便切换节点，例如sincode perplexity

国内机器: 配置clash/config.yaml, 然后去除env/proxy.env中的http_proxy字段前的#, 注意把你的clash配置复制到 clash/config.yaml, 并且确认external-controller: '0.0.0.0:9090', 该字段是监听的 0.0.0.0

国外机器: 不需要任何改动

启动

VIP群用户需要先运行docker login然后输入群公告的用户名密码

docker-compose up -d

配置oneapi渠道，地址 http://127.0.0.1:29000

原封不动按照，截图填入即可,健全密钥随便填就可以了，例如xxx

映射示例

{
  "gpt-3.5-turbo-0301": "gpt-3.5-turbo",
  "gpt-4-0314": "gpt-4",
  "gpt-4-0613": "gpt-4",
  "gpt-3.5-turbo-0613": "gpt-3.5-turbo"
}

【可选】配置监控

配置http监控, 画框的地方，原样填入即可，不用修改复制下面的值，填入参数

{
    "site": "auto",
    "model": "gpt-3.5-turbo",
    "prompt": "say 1"
}

【可选】配置cloudflare workers使用动态ip

前往 cloudflare
点击 Workers & Pages —> 点击 Create application -> 点击 Create Worker
复制下方代码到编辑器中
点击 Deploy
部署之后把得到的cf链接填入到gpt4free.env中 REQ_PROXY=https://xxxx.workers.dev

async function handleRequest(request) {
  const url = new URL(request.url);
  const targetUrl = url.searchParams.get("target");
  console.log(request.headers.get(''));

  url.searchParams.delete("target");

  let myHeaders = new Headers(request.headers);
  let reqBody = null;

  if (['POST', 'PUT', 'PATCH'].includes(request.method)) {
    // Clone and re-use body for requests with attached body payload
    reqBody = await request.clone().blob();
  }

  console.log(targetUrl + url.search, request.method, reqBody);

  return fetch(targetUrl + url.search, {
    method: request.method,
    headers: myHeaders,
    body: reqBody
  });
}

export default {
  async fetch(request, env, ctx) {
    return handleRequest(request)
  },
};

Q&A

出现ERR PROXY COMMECTION FALED 出现下图相关错误，检查你的代理， 解决办法: 如果你的机器是国外的，去除proxy.env的http_proxy字段或者在前面加个#注释掉; 如果你的机器是国内的，配置代理 clash/config.yaml或者使用你自己的代理端口，在proxy.env中修改

Release History

v0.0.189-private

修复perplexity

v0.0.188-private

修复poeauto自动注册问题

v0.0.187-private

poevip支持所有新模型包括claude3和gemma-废物
poeauto支持 claude-3-sonnet

v0.0.186-private

poevip修复为积分制

v0.0.185-private

poeauto更新，改为积分制

v0.0.184-private

修复poeauto注册问题

v0.0.183-private

增加站点freegpt4，配置如下 https://github.com/xiangsx/gpt4free-ts-deploy/blob/0a08e85737f0dcacb06df4a00bbda08681baafca/run/config.json#L11

v0.0.182-private

修复poe的sd绘图格式问题

v0.0.181-private

修复poe老账号没有p-lat的问题

v0.0.180-private

修复poeauto注册之后，第二次登录，登陆态度失效问题
修复poe gpt-3.5-turbo 无法使用问题

v0.0.179-private

修复poevip登陆态问题，需要传cookie中的p-lat 和p-b 具体参数在run/config.json中配置 "poevip": { "size": 0, "serial": 1, "pb_list": [ { "pb": "xxxxx", "lat": "xxxxx" } ] },

v0.0.178-private

修复poe

v0.0.177-private

修复poe

v0.0.176-private

修复phind，更新请求协议

v0.0.175-private

修复askx回复object的问题

v0.0.174-private

优化perplexity 上下文格式被检测导致超时的问题
优化perplexity普号登陆的问题

v0.0.173-private

优化perplexity多并发的问题以及异常崩溃，现在不需要配置WORKERS，修改run/config.json perplexity.concurrency=10

v0.0.172-private

perplexity 复活啦，现在token不会登陆立即刷新了，而且回复速度极快

v0.0.171-private

优化poeauto和poevip的内存和cpu占用
放开size到100，如果站点封了全是港✌️的锅

v0.0.170-private

新增airoom站点，支持gpt-4-1106-preview和gpt-3.5-turbo-16k，需要配置CF Workers或者配置代理池才能稳定使用，不然容易被封ip，CFworkers配置方法见文档 https://github.com/xiangsx/gpt4free-ts-deploy

v.0.0.169-private

poeauto和poevip新增支持三种模型 qwen-72b mixtral-8x7b mistral-medium

v0.0.168-private

phind 修复一直no left问题

v0.0.167-private

修复poevip dall-e-3画图超时的问题

v0.0.166-private

poeauto站点减少timeout
优化phind提示词，减少phind说自己是phind的概率
增加gemini站点, gemini格式转成openai官方格式，具体配置见最下方链接中run/config.json

v0.0.165-private

poeauto和poevip增加支持gemini-pro

v0.0.164-private

修复poeauto和poevip内存问题

v0.0.163-private

修复poeauto和poevip串会话的问题
支持poeauto和poevip单账号多开，需要配置环境变量, env中配置WORKDERS=数量 https://github.com/xiangsx/gpt4free-ts-deploy/blob/7aa32df5366980fdeaa2a5415966a66095e7e18b/env/gpt4free.env.example#L2

v0.0.162-private

修复phind 会携带上下文的问题

v0.0.161-private

修复phind，现在响应贼快

v0.0.160-private

poevip和poeauto增加playground-v2支持

v0.0.159-private

修复poeauto注册超时问题

v0.0.158-private

修复ddg搜不到内容报错的问题

v0.0.157-private

修改dockerfile基础镜像

v0.0.156-private

修复phind
优化poevip

v0.0.155-private

poevip支持dalle3
修复poeauto各种问题，去除的claude-2模型

v0.0.154-private

啥也没更新

v0.0.153-private

修复poe超时问题

v0.0.152-private

增加phind
修复poe相关站点的串会话和timeout的问题

v0.0.151-private

修复auto openai转发的问题，没用到的可以不更新

v0.0.150-private

修复poeauto

v0.0.149-private

修复poevip

v0.0.148-private

修复poevip判断逻辑

v0.0.147-private

删除所有不能用站点
增加claude格式流返回，所有模型均支持，claude形式返回接口/:site/v1/complete或者/v1/complete 然后site放在body中
优化截取上下文性能问题

v0.0.146-private

增加askx站点 https://github.com/xiangsx/gpt4free-ts-deploy/blob/f837d622f596a3053d09cd7843933acb245c6165/run/config.json#L9C4-L9C4

v0.0.145-private

修复perplexity，因为会员和非会员不一样

v0.0.144-private

修改perplexity更新token获取方式

v0.0.143-private

增加perplexity检测token更新

v0.0.142-private

修复perplexity
增加poevip站点，订阅号可以走这个站点
转发支持model_map 即模型映射 https://github.com/xiangsx/gpt4free-ts-deploy/blob/b762dccf17c82e0f40f69c89af63eef739af4cb3/run/config.json#L42
修复流式格式的问题，现在和官方完全一致
openai站点支持配置，请求上下文长度裁剪，配置之后自动裁剪 https://github.com/xiangsx/gpt4free-ts-deploy/blob/b762dccf17c82e0f40f69c89af63eef739af4cb3/run/config.json#L42

v0.0.141-private

联网支持多语言
增加poeauto站点，poef的升级版，poef和poe暂时保留，后面废弃。老账号自行看account/poeauto.json的格式自己导入 poeauto格式 https://github.com/xiangsx/gpt4free-ts-deploy/blob/78abdc54e5e7236b871c55e296012d176e3772b1/run/config.json#L2C3-L2C3

v0.0.140-private

修复poef注册，需要环境变量中指定POEF_MAIL_TYPE=smail-pro

v0.0.139-private

你猜更新了啥

v0.0.138-private

重构复活sincode, 需要自己注册账号绑定卡，理论无限并发无限次数 https://github.com/xiangsx/gpt4free-ts-deploy/blob/1411f0bee6baf0b7cf5a3d774adb1a2da2a5d5ec/run/config.json#L20

v0.0.137-private

增加yopmail邮箱可以用来注册merlin

v0.0.136-private

新增langdock站点，config.json里面需要配置gmail_list,langdock字段，参考https://github.com/xiangsx/gpt4free-ts-deploy/blob/c47b6f4ebe4767f67fe0c1b32806404d1fe1acad/run/config.json#L17C9-L17C9

v0.0.135-private

poef & poe 支持stable-diffusion 画图模型

v0.0.134-private

修复poe

v0.0.133-private

navit 支持gpt3.5-16k

v0.0.132-private

修复navit，可以通过注册账号多次使用gpt4, 没有限制ip

v0.0.131-private

新增navit站点，3.5无限制，4.0单个ip一天只能5次
优化merlin
优化per

v0.0.130-private

修复可能导致merlin no connections的问题

v0.0.129-private

修复poe

v0.0.128-private

perplexity提示词，自己调整不要包含gpt模型字样包括3.5和4.0

v0.0.127-private

大幅提升垃圾机器上的cf成功率

v0.0.126-private

修复perplexity运行时间长之后卡死的问题

v0.0.125-private

更新perplexity提示词，每个人必须自己设置提示词，如果一直超时，说明被封了，就换提示词， config.perplexity.system 例如 You are a AI model ,base on %s model (%s 表示model)

v0.0.124-private

忽略

v0.0.123-private

auto站点支持转发openai function call

v0.0.122-private

使用新框架重构perplexity，自动处理cf

v0.0.121-private

添加MailTM邮箱，merlin可以用，config.json配置mailtm

v0.0.120-private

修复auto站点，通配符匹配错误的问题

v0.0.119-private

没什么好更新的，修复下merlin，邮箱填emailnator
增加通用联网逻辑，调用auto站点，config.json种需要配置search和url模型, 调用任何其他模型参数body中传search=true

v0.0.118-private

修复poe&poef

v0.0.117-private

merlin请求错误，自动销毁重新登录

v0.0.116-private

优化smail-pro,现在用来注册merlin应该没问题了

v0.0.115-private

修复一些莫名其妙的问题

v0.0.114-private

修复代理选择问题

v0.0.113-private

优化smail-pro, 减少超时错误

v0.0.112-private

优化smail-pro注册速度

v0.0.111-private

merlin改为串行注册

v0.0.100-private

修复代理选择问题

v0.0.109-private

重构账号池基础架构，支持动态调整poolsize
新增merlin站点，支持gpt4(6000token)和gpt3.5(2500token)

v0.0.108-private

增加API_KEY=xxx参数加密请求

v0.0.107-private

增加vanus站点，参数VANUS_POOL_SIZE=3

v0.0.106-private

myshell网站更新了，修复注册问题
myshell站点，单条消息如果太长不报错，随机删减字符

v0.0.105-private

修复myshell注册问题

v0.0.104-private

修复auto站点权重选择的问题

v0.0.103-private

auto的config.json配置，增加官方接口格式的第三方负载均衡，可以用来构造集群并配置权重

v0.0.102-private

增加bing和ddg搜索接口
www增加max_tokens参数

v0.0.101-private

google和www懒加载
修复非stream模式下的一些小问题

v0.0.100-private

增加www站点，用来解析url成文本 site=www&model=url

v0.0.99-private

增加google搜索，site=google&model=search

v0.0.98-private

修复myshell

v0.0.97-private

增加日志logstash配置, 可以把日志通过logstash传到es

v0.0.96-private

修复上个版本崩溃的问题

v0.0.95-private

优化myshell, 增加ws断线重连

v0.0.94-private

增加myshell站点，只需要配置MYSHELL_POOL_SIZE即可，会自动注册，不要滥用奥，少搞点

v0.0.93-private

poe和poef增加code llama 三个模型/supports看具体model

v0.0.92-private

修复poef相关问题

v0.0.91-private

重构代码，错误返回结构保持和openai一致
perplexity 过cf，目前测试阶段，本地测试一点问题没有，服务器上我这边有问题，发出来大家一起测一下

v0.0.90-private

修复poef

v0.0.89-private

修复poe

v0.0.88-private

增加openai官方逆向3.5接口

v0.0.87-private

增加环境变量PORT 修改容器端口

v0.0.86-private

优化sincode，sincode现在限制对话session数目，优化对话完成删除历史对话

v0.0.85-private

修复日志显示不全的问题

v0.0.84-private

修复per
优化cpu占用，大幅减少io次数

v0.0.83-private

增加auto站点最大重试次数配置

v0.0.82-private

修复perplexity

v0.0.81-private

优化poef站点，自动注册poe账号, 不过目前注册只能是串行的

v0.0.80-private

优化poe

v0.0.79-private

sincode最终版，增加随机休眠时间，防止同一时间过期，全部重启导致全部超时

v0.0.78-private

sincode终极优化
优化docker构建流程

v0.0.77-private

究极优化sincode，应该不会出现全死的情况了
增加官方openai站点，环境变量OPENAI_KEY=sk-xxxx|sk-xxxx

v0.0.76-private

修复perplexity
优化perplexity，支持gpt-3.5-turbo和net-gpt-3.5-turbo, 取决于你账号的gpt4开关是否打开

v0.0.75-private

更新修复poe

v0.0.74-private

优化sincode，ratelimit 不等待直接重新登录

v0.0.73-private

优化sincode，出现任何异常直接销毁重新登录

v0.0.72-private

修复sincode的部分崩溃问题，需要持续观察，各位先更新

v0.0.71-private

修复this.pool错误

v0.0.70-private

per优化内存占用
修复this.pool错误
增加日志文件开关 LOG_FILE=0 #0-关 1-开

v0.0.69-private

增加日志文件，日志控制台打印开关 v0.0.68-private
尽最大可能降低内存占用，目前已优化poe&sincode v0.0.67-private
修复非流式出现please try later的bug v0.0.66-private
修复sincode的一系列bug v0.0.65-private
新增sincode站点

ratu-sh/gpt4free-ts-deploy

部署步骤

相关链接

Q&A

Release History