/Fast-Chatchat

FastChat中文注释见cn_annotation分支,新特性见readme

Primary LanguagePythonApache License 2.0Apache-2.0

2023-12-01 在0.2.33的基础上增加的特性:

无bug支持chatglm3模型的chat功能

2023-10-25 在0.2.30的基础上增加的特性

  1. 基于bitsandbytes,支持在多卡情况下量化模型;
  2. 支持p-tuning PEFT加载;