/fastapi

企业级 LLM API 快速集成系统,支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等,简洁的页面风格,轻量高效且稳定,支持Docker一键部署。

Primary LanguageGoMIT LicenseMIT

智元 Fast API

Release License Go Report Card

企业级 LLM API 快速集成系统,有着轻量、高效、稳定等特点,将各类 LLM API 进行统一格式、统一规范、统一管理,使其在功能、性能和用户体验上达到极致。业务系统只需要按照统一API标准,对接一次的开发工作量,即可无缝对接N个大模型,无需考虑N个大模型背后的各种复杂逻辑等等,可大大降低开发和维护成本...

支持模型

公司 Completion Image Audio Multimodal Realtime Embedding Moderation
OpenAI ✔️ ✔️ ✔️ ✔️ ✔️ ✔️ ✔️
Azure ✔️ ✔️ ✔️ ✔️ ✔️ ✔️
百度 ✔️
科大讯飞 ✔️ ✔️
阿里云 ✔️
智谱AI ✔️
Google ✔️ ✔️
DeepSeek ✔️
360智脑 ✔️
Midjourney ✔️
Anthropic ✔️ ✔️
GCPClaude ✔️ ✔️
AWSClaude ✔️ ✔️
百度DeepSeek ✔️
豆包 ✔️
火山引擎 ✔️

项目预览

专业版预览

部署支持

✔️ 集群部署
✔️ 多地部署
✔️ 跨区部署

部署教程

公益站点

社区版

专业版

社区版和专业版数据互通, 可以根据自己喜好选择, 社区版用户注册送1000万额度, 专业版用户注册送2500万额度, 专业版支持注册代理商

项目截图

管理端

dashboard model key modelagent corp group user app appkey bill_list deal_record chat reseller site config

代理商

dashboard mymodel mygroup user app appkey bill_list deal_record chat site

用户端

dashboard mymodel mygroup app appkey bill_list deal_record chat

API接口

同OpenAI接口

curl --location 'https://api.fastapi.ai/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-FastAPI1YzE0kXf0zNb0ldX1nBLDm1Bh0SoSK0G0PzR1tNxW' \
--data '{
    "model": "gpt-3.5-turbo",
    "stream": true,
    "messages": [
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "hi"}
    ]
}'

开源地址

仓库 API Web Admin SDK
主库 fastapi fastapi-web fastapi-admin fastapi-sdk
码云 fastapi fastapi-web fastapi-admin fastapi-sdk

作者

作者

交流群

交流群

Star History Chart