随着国内的语言大模型不断兴起，科大讯飞的星火大模型，阿里的通义千问，百度的文心一言等。
这些大模型给我提供了很好的便利
同时星火大模型提供了 开放api功能 使得我们能够将大模型接入到我们自己的项目当中。
这使得该项目的产生
我通过星火大模型提供的开放api，将大模型成功接入到自己网页中
old
new 
zou-hong-run/xinghuo: 讯飞星火认知大模型接入网页 (github.com)
项目接入ai讯飞星火大模型4.0Ultra以及其他版本（全新架构）_哔哩哔哩_bilibili
-
下载该项目
-
到讯飞开发平台注册账户，这样可以添加应用
-
到讯飞控制台添加一个应用，这样可以获取 APPID，APISecret，APIKey等
-
打开我们项目
-
修改xinghuodemo/.env中的代码，填写自己的APPID，APISecret，APIKey
-
- 这里的Spark Max对应下面的注释
.env // Tips: 星火大模型API当前有Lite、Pro、Pro-128K、Max、Max-32K和4.0 Ultra六个版本，各版本独立计量tokens。 // 传输协议 ：ws(s),为提高安全性，强烈推荐wss // Spark4.0 Ultra 请求地址，对应的domain参数为4.0Ultra： // wss://spark-api.xf-yun.com/v4.0/chat // Spark Max-32K请求地址，对应的domain参数为max-32k // wss://spark-api.xf-yun.com/chat/max-32k // Spark Max请求地址，对应的domain参数为generalv3.5 // wss://spark-api.xf-yun.com/v3.5/chat // Spark Pro-128K请求地址，对应的domain参数为pro-128k： // wss://spark-api.xf-yun.com/chat/pro-128k // Spark Pro请求地址，对应的domain参数为generalv3： // wss://spark-api.xf-yun.com/v3.1/chat // Spark Lite请求地址，对应的domain参数为lite： // wss://spark-api.xf-yun.com/v1.1/chat // 填写对应 appid apisecret apikey VITE_APP_SPARK_APPID='xxx' VITE_APP_SPARK_APISECRET='xx' VITE_APP_SPARK_APIKEY='xx# ' // 看上面注释，选择对应版本的domain VITE_APP_DOMAIN='generalv3' // 看上面注释，选择对应的地址 VITE_APP_SPARK_URL='wss://spark-api.xf-yun.com/v3.1/chat' // 用户唯一标识（随便填） VITE_APP_SPARK_UID='red润'
-
-
然后执行下面指令
-
电脑上需要安装nodeNode.js — 在任何地方运行 JavaScript
-
-
G:\Desktop\星火大模型\xinghuo>node -v v18.16.1
G:\Desktop\星火大模型\xinghuo>npm -v 9.5.1
G:\Desktop\星火大模型\xinghuo>npm i
up to date in 1s
3 packages are looking for funding run
npm fundfor detailsG:\Desktop\星火大模型\xinghuo>npm run dev
xinhuo@0.0.0 dev vite
VITE v4.5.5 ready in 386 ms ➜ Local: http://localhost:8080/ ➜ Network: http://192.168.0.106:8080/ ➜ press h to show help -
-
然后访问地址，可以开始使用啦
- http://localhost:5173/
- old
- new
网页布局代码
<!doctype html>
<html lang="en">
<head>
<meta charset="UTF-8" />
<link rel="icon" type="image/svg+xml" href="/vite.svg" />
<meta name="viewport" content="width=device-width, initial-scale=1.0" />
<title>讯飞星火认知大模型接入网页成功</title>
<style>
* {
margin: 0;
padding: 0;
box-sizing: border-box;
}
h1{
text-align: center;
color: #5165EA;
}
html,body{
width: 100%;
height: 100%;
background-color: #F3F8F9;
}
body{
padding: 10%;
}
#results{
width: 100%;
height: 80%;
background-color: #E2EEFF;
}
#results #result{
width: 100%;
height: 100%;
padding: 10%;
background-color: #E2EEFF;
white-space:pre-line;
}
#sendVal{
display: flex;
width: 100%;
height: 20%;
}
#sendVal #question{
width: 70%;
height: 100%;
padding: 5%;
border: 2px dotted blue;
}
#sendVal #btn{
width: 30%;
height: 100%;
background-color: #5D7CFF;
}
</style>
</head>
<body>
<h1>讯飞星火认知大模型接入网页成功</h1>
<div id="results">
<textarea id="result"></textarea>
</div>
<div id="sendVal">
<input id="question" type="text">
<button id="btn">发送信息</button>
</div>
<script type="module" src="main.js"></script>
</body>
</html>功能实现代码 main.js
import * as base64 from 'base-64'
import CryptoJs from 'crypto-js'
let questionInput = document.querySelector("#question");
let sendMsgBtn = document.querySelector("#btn");
let result = document.querySelector("#result");
let requestObj = {
APPID: '',
APISecret: '',
APIKey: '',
Uid:"red润",
sparkResult: ''
}
// 点击发送信息按钮
sendMsgBtn.addEventListener('click', (e) => {
sendMsg()
})
// 输入完信息点击enter发送信息
questionInput.addEventListener('keydown', function (event) {
if (event.key === 'Enter') { sendMsg(); }
});
// 发送消息
const sendMsg = async () => {
// 获取请求地址
let myUrl = await getWebsocketUrl();
// 获取输入框中的内容
let inputVal = questionInput.value;
// 每次发送问题 都是一个新的websocketqingqiu
let socket = new WebSocket(myUrl);
// 监听websocket的各阶段事件 并做相应处理
socket.addEventListener('open', (event) => {
console.log('开启连接！！', event);
// 发送消息
let params = {
"header": {
"app_id": requestObj.APPID,
"uid": "redrun"
},
"parameter": {
"chat": {
"domain": "general",
"temperature": 0.5,
"max_tokens": 1024,
}
},
"payload": {
"message": {
// 如果想获取结合上下文的回答，需要开发者每次将历史问答信息一起传给服务端，如下示例
// 注意：text里面的所有content内容加一起的tokens需要控制在8192以内，开发者如有较长对话需求，需要适当裁剪历史信息
"text": [
{ "role": "user", "content": "你是谁" }, //# 用户的历史问题
{ "role": "assistant", "content": "我是AI助手" }, //# AI的历史回答结果
// ....... 省略的历史对话
{ "role": "user", "content": inputVal }, //# 最新的一条问题，如无需上下文，可只传最新一条问题
]
}
}
};
console.log("发送消息");
socket.send(JSON.stringify(params))
})
socket.addEventListener('message', (event) => {
let data = JSON.parse(event.data)
// console.log('收到消息！！',data);
requestObj.sparkResult += data.payload.choices.text[0].content
if (data.header.code !== 0) {
console.log("出错了", data.header.code, ":", data.header.message);
// 出错了"手动关闭连接"
socket.close()
}
if (data.header.code === 0) {
// 对话已经完成
if (data.payload.choices.text && data.header.status === 2) {
requestObj.sparkResult += data.payload.choices.text[0].content;
setTimeout(() => {
// "对话完成，手动关闭连接"
socket.close()
}, 1000)
}
}
addMsgToTextarea(requestObj.sparkResult);
})
socket.addEventListener('close', (event) => {
console.log('连接关闭！！', event);
// 对话完成后socket会关闭，将聊天记录换行处理
requestObj.sparkResult = requestObj.sparkResult + " "
addMsgToTextarea(requestObj.sparkResult);
// 清空输入框
questionInput.value = ''
})
socket.addEventListener('error', (event) => {
console.log('连接发送错误！！', event);
})
}
// 鉴权url地址
const getWebsocketUrl = () => {
return new Promise((resovle, reject) => {
let url = "wss://spark-api.xf-yun.com/v1.1/chat";
let host = "spark-api.xf-yun.com";
let apiKeyName = "api_key";
let date = new Date().toGMTString();
let algorithm = "hmac-sha256"
let headers = "host date request-line";
let signatureOrigin = `host: ${host}\ndate: ${date}\nGET /v1.1/chat HTTP/1.1`;
let signatureSha = CryptoJs.HmacSHA256(signatureOrigin, requestObj.APISecret);
let signature = CryptoJs.enc.Base64.stringify(signatureSha);
let authorizationOrigin = `${apiKeyName}="${requestObj.APIKey}", algorithm="${algorithm}", headers="${headers}", signature="${signature}"`;
let authorization = base64.encode(authorizationOrigin);
// 将空格编码
url = `${url}?authorization=${authorization}&date=${encodeURI(date)}&host=${host}`;
resovle(url)
})
}
/** 将信息添加到textare中
在textarea中不支持HTML标签。
不能使用
标签进行换行。
也不能使用\r\n这样的转义字符。
要使Textarea中的内容换行，可以使用 或者 来进行换行。
表示回车符； 表示换行符；
*/
const addMsgToTextarea = (text) => {
result.innerHTML = text;
}
很久前我就开始研究如何接入各家大模型，但是人家还没有开放api出来，星火大模型是最先出的，太棒了！！ 觉得不错的请三连支持一下！！！bxin
已经接入ai，可以找他聊天，没事更点技术文章
zou-hong-run/wechat-ai-spark: 微信公众号接入AI讯飞星火认知大模型（express+websocket）
您的支持是我最大的更新动力
