/agentcraft

agentcraft 可以帮助您快速构建各类应用场景的ai agent应用

Primary LanguageTypeScript

AgentCraft

简体中文 | 使用文档

AgentCraft是一个开放的智能体构建平台,致力于推进AI原生应用在业务场景的落地。目前提供了基础模型、数据集、执行工具、智能体构建、客户端接入等能力。可以帮助开发者快速构建,知识问答,智能助手等应用,能够极大的节省AI原生应用的开发成本

document development

演示示例

基础指令 AgentCraft 论文翻译

知识库问答 AgentCraft 知识库问答 执行工具 AgentCraft 函数智能助手

功能

1 基础模型托管及扩展

  • 提供 通义千问、ChatGLM2-6b、ChatGLM3-6b、llama2(in4 量化 13b)、Stable-diffusion等基础模型的一键部署
  • 支持基础模型的公开访问API
  • 支持托管任意模型的代理服务函数比如ChatGPT
  • 提供扩展自定义模型,开放构建模型镜像的源码
  • 模型服务计费,日志查看等

2 数据集

  • 支持精准问答数据集和文档数据集混合使用
  • 支持数据集自动向量化处理
  • 支持多种源文件类型录入
  • 支持手动输入单文档数据源或者QA数据源
  • url 读取,本地目录上传
  • mysql, oss等多数据源动态导入

3 智能体编排和调试

  • 支持实时调试知识库等智能体效果
  • 支持问答记录查询,修正
  • 支持提示词预置模版
  • 支持指令、LLM、数据集自由组合
  • 指令、LLM、数据集、工具,上下文自由组合
  • 工具能力在线构建和发布
  • 可视化编排Agent

4 API透出

  • 支持 Agent Api token访问
  • 接入网关增强 安全,限流等能力

5 客户端连接

  • 提供引导式方案接入钉钉机器人
  • 提供微信个人助手一键部署服务
  • 提供独立web站一键部署服务
  • 嵌入脚本,sdk等接入方式
  • 其他平台对接

6 生成式UI

  • 支持内置自定义渲染组件
  • 支持自定义组件LUI渲染
  • 生成式UI能力集成

本地开发

克隆本项目到本地,打开 src/agentcraftall 目录,核心代码在该路径下

src/agentcraft-all 包含前后端两个工程 agentcraft-fe和agentcraft-be 需要启动后端服务和前端服务

后端工程 agentcraft-be

export PYTHONPATH="${PYTHONPATH}:$(pwd)"
python3 -u app/main.py

前端工程 agentcraft-fe

  • 配置准备:修改.env.example -> .env,将后端服务的域名填写为baseUrl的值,获得阿里云的AK,SK并填写为.env中的值ALIBABA_CLOUD_ACCESS_KEY_ID,ALIBABA_CLOUD_ACCESS_KEY_SECRET(该配置在操作云资源的时候需要,如管理基础模型服务)
  • 依赖安装: npm install -f
  • 服务启动
npm run dev

一些问题

为什么需要 AK,SK? 本项目依赖阿里云基础设施,因此内置了一部分云资源的管理能力,比如基础模型的部署、连接钉钉机器人,微信,独立站的服务,因此需要提供AK,SK 管理云资源,如果您不需要这些能力,可以忽略此项。另外请注意保管自己的AK,SK

如何贡献

欢迎为AgentCraft贡献,一起推进AI应用的落地。 欢迎各种方式的贡献,提交代码、问题、新想法、或者分享你的AI应用

联系我们

如果您有任何问题、建议或合作意向,可以用以下方式联系我们:

  • GithubRepo 提交 Issue 或 PR
  • 加入AgentCraft 项目交流钉群讨论 dingtalk

Citation

本软件使用以下开源软件

  • Nextjs [nodejs]
  • FastApi [python]
  • LangChain

License 开源协议

Apache2.0协议