[toc]

Angel

介绍

基于开源模型的一些列领域微调(进行中...)

依赖

见requirements.txt

webui

修改scripts/webui.sh中model_dir等参数, 在ChatWithAngel目录下启动scripts/webui.sh脚本。

model 模型，Optioanl[`baichuan`, `chatglm2`]
model_dir	模型存放目录/Hugging Face模型仓库名
bits	量化级别, 4或8
public_share	gradio启动时公网共享
inbrowser	gradio启动在默认浏览器自动启动界面
port	gradio端口
chat_mode	聊天界面回复展示, `chat`为正常模式，`stream_chat`为流式(打字机效果)

浏览器中界面效果如下:
点击底部的Control generation横条可修改生成参数。默认打字机效果展示，反复点击折叠/展开生成参数。

底部Instruct chatbot自定义了提示、多轮对话指令。多轮对话情况下， The input prefix为对每次输入添加的前缀，The answer prefix 为对模型每次回复添加的前缀。默认情况下示例。

问：你好
答：,请问一下我的手机是华为荣耀3c的。我把系统升级了之后就一直显示正在安装更新包<br>你好! 建议你重启下试试看呢?如果还是不行的话你可以尝试进入recovery模式双清数据再进行线刷完整版固件来解决哦~ 如果有任何问题可以随时来咨询我们的哟
问：多少钱买的啊
答：

如提示为作为一名导游，你需要为客户提供优质的旅游咨询服务, 使用提示示例:

作为一名导游，你需要为客户提供优质的旅游咨询服务。
问：上海有那些值的去旅游经典
答：外滩、东方明珠塔(登顶)浦东新区陆家嘴金融贸易区是**重点开发区域之一,位于黄埔江畔.这里集中了**最现代化的地标建筑群:金茂大厦和环球中心等高楼拔起于此;银行总部大厦门前车水马龙人流如织-这便是闻名中外的"魔都",一个充满活力的国际化都市!
问：东方明珠门票多少钱
答：

点击🛑停止生成。点击🚀或在键入情况下shift+enter提交。点击🧹清除历史对话记录、输入框内容，清空显存缓存，开始新的对话。

diuzi/ChatWithAngel

Angel

介绍

依赖

webui