/Knowledge-Base-LLMs-QA

👽 基于大模型的知识库问答 | Large model-based knowledge base Q&A.

Primary LanguagePython

实现原理

整个项目的实现过程:

以文档角度理解整个实现过程:

0. 安装基础环境

pip install -r requirements.txt

1. 配置相应参数model_config.py

2. 运行使用

2.1 以WebUI运行

python webui_demo.py

2.2 以CLI运行

python cli_demo.py

2.3 以API运行

对文本进行编码并进行测试:

python cli_demo.py

修改api_demo.pyvs_path,然后以API运行使用:

python api_demo.py

客户端请求:

python client.py

参考

  1. https://github.com/THUDM/ChatGLM-6B
  2. https://github.com/hwchase17/langchain
  3. https://github.com/imClumsyPanda/langchain-ChatGLM