AoE (AI on Edge) 是一个终端侧AI集成运行时环境(IRE)。以“稳定性、易用性、安全性”为设计原则,帮助开发者将不同框架的深度学习算法轻松部署到终端高效执行。
AoE 是推理框架的集成 SDK (目前支持 Android / iOS),她屏蔽推理框架的技术细节,提供统一、易用的接入方式,且支持自定义组件拓展,方便开发者像集成业务组件一样在终端侧集成 AI 模型。
主要功能:
- 针对Android平台,提供推理框架和数据预处理、后处理运行在独立进程的稳定性保障机制
- 支持模块拓展注入
- 推理框架执行配置化
- 可支持主流终端推理框架
kuloud、 dingc 、 coleman.zou 、 yangke1120 、 tangjiaxu