AI Agent 开发框架 ModelScope-Agent
Opened this issue · 0 comments
为了充分释放开源 LLM 的生产力，魔搭社区自研了适配开源 LLM 的 AI Agent 开发框架 ModelScope-Agent。简而言之，ModelScope-Agent 是 pilot（领航员）而非 copilot（副驾驶员）。
魔搭已用这套框架在社区做了「打样」，搭建 ModeScopeGPT，它能通过自然语言与用户交互、接受用户指令，通过「中枢模型」通义千问调用社区的众多 AI 模型 API，自主完成人类布置的任务。
AI Agent 的工作流程一般包括任务的理解、规划和执行，其中，LLM 负责任务规划、工具调用以及回复生成，是整个流程的智能中枢，好比人类的大脑。ModelScope-Agent 允许开发者自由选择智能体的「大脑」，适配百川、通义千问等各类开源模型。主流 LLM 能够做到「即插即用」，开发者如需专门训练 LLM 以增强其工具调用能力，可以参考 ModelScope-Agent 开源的训练数据、训练方法、优化方案、评估方法。
ModelScope-Agent 开发框架还包含记忆控制、工具使用等模块，记忆控制模块支持知识检索以及 prompt （提示词）管理，工具使用模块支持工具库、工具检索、工具定制。为了增强开源大模型工具调用能力，魔搭社区还自研了一个包含 60w 样本的 MSAgent-Bench 工具调用数据集。
大多数 AI Agent 开发框架需要手动添加工具，而 ModelScope-Agent 通过调用魔搭社区上开源的文本向量模型，打造 API 工具检索引擎，能让 AI Agent 根据用户指令自动检索相关工具。如果开发者想要新增外部工具/API，只需要在 ModelScope-Agent 上注册工具，即可直接调用。