基于vercel的serverless服务,把通义千问大模型接入微信公众号
- 有一个域名
这个条件我觉得已经相当低了,至少成本比服务器要少很多吧。xyz、fun、asia
结尾的域名只要6-14块一年。
vercel 平台默认分配的域名,国内无法访问(xxx-xx-xx.vercel.app)
- 注册阿里云,点击此链接【模型服务灵积】,开通阿里模型服务灵积。
- 开通成功左侧菜单找到
管理中心
->API-KEY管理
,创建apiKey, - 准备一个域名,最便宜的那种就行。买完配置DNS,增加
cname
解析到cname-china.vercel-dns.com
(cloudflare 托管域名还需要【修改SSL模式设置为完全】) - 注册微信公众号,个人订阅号就行。后台管理页面上找到
设置与开发
-基本配置
-服务器配置
,修改服务器地址url为https://你的域名/api/qw-wechat
,TOKEN
是自定义的,随便编一个。EncodingAESKey
随机生成(反正我们不用这一项),我们选明文模式就好了。先不要提交,提交会校验TOKEN,所以等下一步我们部署好了再进行操作。 fork本项目到你自己的仓库,访问【Vercel】使用github账号登录就好了。然后新建项目,选择(参照下方的一键部署按钮来完成)Import Git Repository
从github仓库导入。在把下面的变量一项一项的加进去:Environment Variables
选项卡,增加环境变量
API_KEY=sk-xxxx
KEYWORD_REPLAY={"测试":"关键词回复"}
API_MODEL=qwen-72b-chat
WX_TOKEN=xxxx
SUBSCRIBE_REPLY=欢迎关注,我已经接入了阿里千问智能AI,对我说句哈喽试试吧
填完之后点击Deploy
,等待部署完成后,点击settings
找到Domain
,把你的域名填上去就好了,会自动加https
- 这个时候回到微信后台,可以点击提交了,不出意外的话,会提示
token验证成功
,到外边,启用服务器配置。ok,大功告成。现在你有一个接入阿里通义千问大模型的微信公众号聊天机器人了。
- 点击此按钮,一键部署
不用纠结为什么会404,我们使用的是vercel的serverless能力,我们项目里没有部署页面。所以访问首页会404,这是正常的。 如果要确认是否部署成功,请看一下一个问题。
答:访问路径https://你的域名/api/qw-wechat
,页面输出failed
,即为部署成功,可以去微信公众平台提交开发配置,验证token
。
答:检查微信公众平台开发配置有没有启用。Vercel
环境变量是否正确,务必注意环境变量的大小写情况以及命名方式是蛇形,不是驼峰。
答:serverless
服务是一种无状态的服务,每次请求都是一个新的生命周期,只有在两次请求相距时间很短的情况下才有可能会复用上个生命周期,呈现出记录了上次对话的状态。因此,如果模型忘记了上次对话才是常态,记住了,才是取巧。
-
通义千问72B qwen-72b-chat
-
通义千问1.8B qwen-1.8b-chat
-
通义千问 qwen-max
-
通义千问 qwen-max-1201
-
通义千问 qwen-max-longcontext
- 通义千问14B qwen-14b-chat
- 通义千问7B qwen-7b-chat
- 通义千问 qwen-plus
- 通义千问 qwen-turbo
答:不一定有精力,后续看一下。一般来说,不能白嫖的是不接入的。目前支持的有: