请问如何指定本地部署的LLM?
Barry1915 opened this issue · 1 comments
Barry1915 commented
我看config文件里面只能用chatgpt的key来执行,有指定本地模型路径,调用本地LLM的地方吗
Paitesanshi commented
嗨,感谢对RecAgent的关注!
很遗憾暂时没有直接调用本地LLM的接口。不过RecAgent使用LangChain框架,可以参考LangChain调用本地LLM的方式添加本地部署的接口。
Barry1915 opened this issue · 1 comments
我看config文件里面只能用chatgpt的key来执行,有指定本地模型路径,调用本地LLM的地方吗
嗨,感谢对RecAgent的关注!
很遗憾暂时没有直接调用本地LLM的接口。不过RecAgent使用LangChain框架,可以参考LangChain调用本地LLM的方式添加本地部署的接口。