edge-ai

NATS.io高性能服务器——面向云与边缘原生的消息系统。

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

MimiClaw：5 美元芯片上的安全带。无操作系统（Linux）。没有 Node.js。没有Mac迷你。没有树莓派。没有 VPS。硬件代理操作系统。

Olares：一个开源的私有云平台，助您重掌数据主权。

一款用于音频模型的一体化纯 C++ 推理引擎，由 ggml 提供支持。支持TTS、STT、VAD、语音转换、音乐生成等，性能高度优化。没有 Python 依赖。

NVIDIA DeepStream Monorepo：DeepStream SDK及参考应用，用于构建基于GStreamer、TensorRT和视觉AI模型的GPU加速实时视频与多传感器分析管道，支持边缘、本地及云端部署。

LiteRT-LM 是谷歌推出的生产级、高性能、开源推理框架，用于在边缘设备上部署大型语言模型。