由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名

边缘算力,巨型模型

模型推理新范式

机器学习库领域正经历一场由效率驱动的范式转移。开发者不再单纯追求模型规模,转而聚焦于在有限硬件上流畅运行巨型模型。Colibri项目通过纯C语言和磁盘流式传输专家,在消费级硬件上运行前沿MoE模型;SGLang则为大语言模型与视觉语言模型提供了高速推理框架。这标志着推理层正成为新的创新主战场。

周环比
-36%
活跃项目
24
90 日累计 Stars
638k
快照日期
2026-09-22
90 日动量曲线
按 daily 新增 stars 聚合
话题项目

该叙事下的活跃项目

DietrichGebert
ponytail
DietrichGebert
+1.1k

让你的人工智能代理像房间里最懒的高级开发人员一样思考。最好的代码是你从未编写过的代码。

141k
affaan-m
ECC
affaan-m
+826

智能体性能优化系统。为Claude Code、Codex、Opencode、Cursor等工具提供技能、本能、记忆、安全及研究优先的开发支持。

263k
sgl-project
sglang
sgl-project
+708

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

35k
NousResearch
hermes-agent
NousResearch
+638

与你共同成长的智能体

243k
AgriciDaniel
claude-obsidian
AgriciDaniel
+634

Obsidian + Claude Code 的自组织 AI 第二大脑。放下任何源代码,Claude 就会读取、链接并将其归档到您拥有的纯 Markdown 的连接知识图中。 AI 笔记、个人知识管理 (PKM) 和开源 Notion 替代方案。基于 Karpathy 的 LLM Wiki 模式。

14k
Osmantic
ODS
Osmantic
+497

将您的PC、Mac或Linux设备转变为AI服务器,支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

5.8k
Tencent
WeKnora
Tencent
+478

基于大语言模型的深度文档理解框架,支持使用 RAG 范式实现语义检索和上下文感知应答。

27k
Panniantong
Agent-Reach
Panniantong
+476

为您的AI代理赋予观察整个互联网的能力。读取并搜索Twitter、Reddit、YouTube、GitHub、Bilibili、小红书——一个命令行工具,零API费用。

83k
firecrawl
firecrawl
firecrawl
+436

面向AI的网页数据API——将整个网站转换为LLM就绪的Markdown或结构化数据🔥

174k
FailproofAI
failproofai
FailproofAI
+420

编码代理的运行时故障解决方案。挂钩 Claude Code、Codex 和您最喜欢的安全带。在循环、危险行为和秘密泄露成为事件之前将其捕获。零延迟。在本地运行。

5.1k
Graphify-Labs
graphify
Graphify-Labs
+387

AI 编码助手技能(Claude Code、Codex、OpenCode、Cursor、Gemini CLI 等)。将任意包含代码、SQL 模式、R 脚本、Shell 脚本、文档、论文、图像或视频的文件夹转化为可查询的知识图谱。应用代码、数据库模式与基础设施整合于同一图谱中。

119k
harry0703
MoneyPrinterTurbo
harry0703
+385

利用AI大模型一键生成高清短视频

118k
cactus-compute
needle
cactus-compute
+381

可在极小设备上运行的2600万参数函数调用模型

11k
multimodal-art-projection
YuE
multimodal-art-projection
+332

YuE2: frontier music generation with symbolic planning, zero-shot covers, and agentic music editing.

9.9k
higgsfield-ai
higgsfield
higgsfield-ai
+328

具备容错能力、高度可扩展的GPU编排系统,以及专为训练数十亿至数万亿参数模型设计的机器学习框架

5.6k
FareedKhan-dev
train-llm-from-scratch
FareedKhan-dev
+265

一种训练大语言模型的直接方法,涵盖从数据下载到文本生成的完整流程。

10k
zhouxiaoka
autoclip
zhouxiaoka
+250

AutoClip : AI驱动的视频剪辑和精彩片段生成 · 一款智能高光提取与剪辑的二创工具

8.2k
browser-use
browser-use
browser-use
+248

🌐 让网站可供AI智能体访问。轻松实现在线任务自动化。

115k
laoma2053
awesome-zhuiju-free
laoma2053
+235

免费无广告的追剧资源指南,人工精选资源、每日检测资源有效。收录了在线影视、影视APP、网盘搜索、磁力BT、字幕、TVBox /影视仓空壳软件/配置地址、IPTV直播源、会员拼团、影视相关开源项目。开源,社区共同维护。

9.3k
JuliusBrussee
caveman
JuliusBrussee
+220

🪨 能用少量token解决问题时何必用大量token——通过像穴居人一样说话来削减65%token的Claude Code技巧

106k
p-e-w
heretic
p-e-w
+210

面向语言模型的完全自动审查移除工具

30k
virgiliojr94
book-to-skill
virgiliojr94
+210

将任何技术类PDF书籍转化为Claude Code技能——可在工作中随时学习、参考和使用。

31k
Mintplex-Labs
anything-llm
Mintplex-Labs
+205

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

66k
ahujasid
blender-mcp
ahujasid
+204

开源MCP,让任意大语言模型都能使用Blender

27k
话题生态

项目之间的关系

查看其他叙事
助手