Ex-ChatGPT - ChatGPT with ToolFormer

简体中文 English / Background

ChatGPT 是一个强大的工具平台，可以无需任何调整就生成 API 请求来协助回答问题。Ex-ChatGPT 使得 ChatGPT 能够调用外部 API，例如 WolframAlpha、Google 和 WikiMedia，以提供更准确和及时的答案。

这个项目分为 Ex-ChatGPT 和 WebChatGPTEnhance 两部分。前者是一个使用了 GPT3.5 Turbo API、WolframAlpha、Google 和 WikiMedia 等 API 的服务，能够提供更强大的功能和更准确的答案。后者是一个浏览器扩展程序，它更新了原有的 WebChatGPT 插件以支持添加外部 API，支持 ChatGPT 网页调用不同的 API 和提示。

交互界面

ExChatGPT

WebChatGPTEnhance

Highlights

OAuth2.0多用户鉴权管理 (见webTest分支)
语音对话功能，使用微软 Azure API，优化响应速度 ( 1-2 秒左右 ) ，包含语音识别和文字转语音，支持多种音色和语言，自定义声音。
docker 和 proxy 支持
聊天记录冗余备份
支持 OpenAI GPT-3.5 Turbo API
允许 ChatGPT 调用外部 API 接口 ( Google,WolframAlpha,WikiMedia )
对 Google 搜索结果进行数据清洗, 减少token占用
自动保存载入对话历史，自动压缩对话
可显示使用的 Token 数量
API池, API 冷却
Markdown and MathJax 渲染
调用API 过程显示动画, 类似必应
历史对话管理载入，类 chatgpt 页面布局
快捷键快速选择模式 Tab 和换行 Shift+Enter,Enter 发送， up,down 选择历史发送消息，类似终端
stream 特性，它类似于打字机的效果，可以更快地响应结果。与一次性加载所有内容不同，stream会逐步输出结果。如示例中所示：
chat 模式下prompt 自动补全选择，支持模糊搜索，拼音搜索，支持自定义 prompt, 项目中自带 awesome-chatgpt-prompts 中的 prompt

计划更新

移动端界面适配
发送图片OCR识别公式文字
OAuth2.0多用户鉴权 (见webTest分支)
调用diffusing model生成图片(达到类似多模态效果)
网页搜索结果进一步爬虫总结清洗数据
增加代码运行API,以及更多API
聊天记录/本地知识数据库embedding对齐检索

安装

Ex-chatGPT Installation

pip install pip install -r requirements.txt
将 apikey.ini.example 复制改名为 apikey.ini,然后在 apikey.ini 中填入你的 API 密钥，以及代理 ( 如果只有一个 openAI 的 API key,将 key1 = sk-xxxx; key2 = sk-xxxx 删除即可 )
Google api key and search engine id 申请
wolframAlpha app id key 申请
openAI api key( 新功能 ) 或 chatGPT access_token ( 旧版本 ) 申请
(可选) 在 apikey.ini 中填写Azure API key 和 region 申请
运行 main.py 并打开 http://127.0.0.1:1234/
选择模式 ( 可以使用 Tab ) ，例如 chat,detail,web,webDirect,WebKeyWord
chat 模式下使用 \{promptname} {query} 格式来模糊搜索选择 prompt
快捷键快速选择模式 Tab 和换行 Shift+Enter,Enter 发送， up,down 选择历史发送消息，类似终端
语音对话聊天(可选功能), 在 chatGPTEx/static/styles/tts.js 中选择语言和音色, 在聊天界面中点击麦克风启动/关闭对话模式

Docker 快速部署

方法一使用构建好的镜像

创建配置文件目录并拉取配置文件

mkdir config && wget https://raw.githubusercontent.com/circlestarzero/EX-chatGPT/main/chatGPTEx/apikey.ini.example -O ./config/apikey.ini
编辑配置文件或者把编辑好的配置文件传到config文件夹下。

vim ./config/apikey.ini
拉取docker镜像

docker pull 0nlylty/exchatgpt:latest

创建容器

docker run -dit \
  -v ~/config:/config \
  -p 5000:5000 \
  --name exchatgpt \
  --restart unless-stopped \
 0nlylty/exchatgpt:latest

方法二自己构建镜像

创建配置文件目录并拉取配置文件

mkdir config && wget https://raw.githubusercontent.com/circlestarzero/EX-chatGPT/main/chatGPTEx/apikey.ini.example -O ./config/apikey.ini
编辑配置文件或者把编辑好的配置文件传到config文件夹下。

vim ./config/apikey.ini

构建并运行

# 克隆代码
git clone https://github.com/circlestarzero/EX-chatGPT.git --depth=1
# 进入项目目录
cd EX-chatGPT/chatGPTEx
# 编辑docker-compose.yaml的挂载路径
~/config:/config   # 冒号左边请修改为保存配置的路径
# 配置补充完整后启动
docker compose up -d

使用

# 访问
http://your_ip:5000

# 查看日志
docker logs -f --tail 100 exchatgpt

WebChatGPTEnhance Installation

在 chatGPTChromeEhance/src/util/apiManager.ts/getDefaultAPI 中填入 Google API 信息
运行 npm install
运行 npm run build-prod
在 chatGPTChromeEhance/build 中获取构建好的扩展
add your prompts and APIs in option page.
APIs and prompts examples are in /WebChatGPTAPI
wolframAlpha needs to run local sever - WebChatGPTAPI/WolframLocalServer.py

模式介绍

Web Mode

Web Mode 开始时会直接询问 ChatGPT 一个问题。ChatGPT 会生成一系列与查询相关的 API 调用，并使用第一个返回的结果和问题进行验证和补充。最后，ChatGPT 会对信息进行总结。Web Mode 具有比仅总结响应更好的聊天能力。

Chat Mode

Chat Mode 仅调用 OpenAI API 接口，类似于 ChatGPT 的 Web 版本。您可以通过输入 /promtname 来搜索和选择不同的提示，它还支持模糊搜索。

WebDirect Mode

WebDirect Mode 首先让 ChatGPT 生成一系列与查询相关的 API 调用。然后，它直接调用第三方 API 搜索每个查询的答案，最后 ChatGPT 对信息进行总结。WebDirect Mode 对于单个查询信息更快且相对更准确。

Detail Mode

Detail Mode 是 WebDirect Mode 的扩展，它会进行额外的 API 调用来补充当前结果中未找到的信息 ( 例如之前未搜索到的信息 ) 。最后，ChatGPT 对信息进行总结。

Keyword Mode

Keyword Mode 直接从 ChatGPT 中生成关键词进行查询，使用 DDG 进行查询，不需要其他 API 密钥。但是其准确性相对较差。

更新日志

OAuth2.0多用户鉴权管理 (见webTest分支)
对 Google 搜索结果进行数据清洗, 减少token占用
更新所有API代理池, 增加API限制冷却机制(Google 403 冷却1天)
语音对话功能, 使用微软azureAPI, 优化响应速度, 包含识别语音和文字转语音, 支持多种音色和语言,自定义声音
stream 特性，它类似于打字机的效果，可以更快地响应结果。与一次性加载所有内容不同，stream会逐步输出结果。如示例中所示：
聊天记录冗余备份
chat 模式下 prompt 自动补全选择，支持模糊搜索和拼音搜索

更新 Docker 和 proxy 支持
支持 OpenAI GPT-3.5 Turbo API，快速且价格低廉
提供额外的 API 调用和搜索摘要，以提供更全面和详细的答案
使用快捷键快速选择模式 Tab 和换行 Shift+Enter，同时使用 Enter 发送消息。使用 up 和 down 选择历史发送消息，类似终端操作
更新历史对话管理，支持载入、删除和保存历史对话