cosmo-edge

能用来干嘛

把视频 AI 模型变成可部署的边缘应用。在算能 Sophon（BM1688、CV186X）、瑞芯微 Rockchip（RK3576、RV1126B）和 x86 上，用同一套引擎完成模型导入、可视化流水线编排、实时 OSD 叠加、事件告警与推送。它不止是模型 serving，而是完整的应用层——从摄像头接入（ONVIF 发现、GB28181 信令）到告警审核、事件投递全链路打通。

最有意思的是端侧 VLM 能力：在 BM1688/CV186X 上验证过 6 通道、RK3576 上 4 通道的多路视频视觉问答（0.1 FPS/通道），相当于让一个盒子同时对多路摄像头「看图说话」。配套的 benchmark 报告可复现（含 72 小时固定负载稳定性测试），这在边缘 AI 开源项目里相当罕见。

没有边缘硬件也能玩：x86 模式（Linux/Windows，Apple Silicon macOS Docker Preview）用同样的 UI 和工作流本地试跑，只是吞吐量低于 NPU。

快速上手

# x86 本地试跑（无需边缘硬件）
git clone https://github.com/cosmo-wander-ai/cosmo-edge.git
cd cosmo-edge
# 按官方 Quick Start 构建后打开控制台，
# 导入模型 → 配置场景/ROI → 接入视频源 → 实时查看 OSD 与告警

边缘部署则选择对应平台（BM1688 用 .nn、Rockchip 用 .rknn、x86 用 .onnx），用 v1.1.0 安装包或从 main 分支构建。

适合收藏的原因

• 国产边缘硬件（算能 + 瑞芯微）视频 AI 部署的开源全栈方案，工程完成度是生产级而非 demo 级
• 端侧 VLM 多路视频问答已在真实 NPU 上验证，还有配套训练 Skill（自定义检测器）和 MCP 集成（AI 助手查告警）
• benchmark 可复现、72 小时长稳测试、中文文档 + Gitee 镜像，对国内开发者非常友好
• 架构克制：每个平台用自己的 runtime 和模型工件，一套编排体验，不强行抽象统一后端

分类标签