/LangChain-ChatGLM-Webui

基于LangChain和ChatGLM-6B的针对本地知识库的自动问答

Primary LanguagePythonApache License 2.0Apache-2.0

LangChain-ChatGLM-Webui

🔥项目体验

本项目提供基于ModelScope魔搭社区的在线体验, 欢迎尝试和反馈!

👏项目介绍

受langchain-ChatGLM启发, 利用LangChain和ChatGLM-6B系列模型制作的Webui, 提供基于本地知识的大模型应用.

目前支持上传 txt、docx、md 等文本格式文件, 提供包括[ChatGLM-6B]、[ChatGLM-6B-int4]的模型文件以及GanymedeNil/text2vec-large-chinese、nghuyong/ernie-3.0-base-zh、nghuyong/ernie-3.0-nano-zh的Embedding模型.

效果如下:

🚀使用方式

需要Python>=3.8.1

  1. git clone本项目: git clone https://github.com/thomas-yanxin/LangChain-ChatGLM-Webui.git
  2. 进入本项目目录：cd LangChain-ChatGLM-Webui
  3. 安装依赖包：pip3 install -r requirements.txt
  4. 执行app.py：python3 app.py

💪Todo

  • 多个模型选择
  • 支持上下文
  • 优化模型加载机制及内存使用
  • 支持上传多个文本文件
  • 提供ModelScope版本
  • 支持用户自定义Embedding模型

❤️引用

  1. ChatGLM-6B: ChatGLM-6B: 开源双语对话语言模型
  2. LangChain: Building applications with LLMs through composability
  3. langchain-ChatGLM: 基于本地知识的 ChatGLM 应用实现