#llm 每日趋势报告

A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

永久免费LLM API列表（API密钥）

RAGFlow 是领先的开源检索增强生成引擎，融合尖端 RAG 与智能体能力，为大型语言模型构建卓越的上下文层

Open source previs software in the browser: block a scene, pose characters, author camera moves and cuts, then take the same shots to an AI video model.

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

🐙 提示工程指南、论文、讲座、笔记本及资源

Claude Code技能实现Manus风格的持久化Markdown规划——这是支撑20亿美元收购案的工作流模式。

针对GPT 6.0,workbuddyV4.1flash的破甲实验项目

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

Run Claude Code and OpenCode on your Android phone, no computer needed. Or follow and steer agents on your computer: live sessions, tool approvals and diffs.

面向Claude Code的多触手协调器——整合Codex CLI与Gemini CLI，通过智能上下文路由实现并行任务执行

35种生产级智能体AI架构（Reflexion、LATS、GraphRAG、MemGPT、Voyager、BrowserAgent等）——一个Python库及可运行教材，支持多提供商LLM，并附带17项任务基准排行榜。

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

FlashInfer：大语言模型服务的核心计算库

掌控你的AI。专为AI代理打造的原生macOS框架——支持任意模型、持久化记忆、自主执行与加密身份。基于Swift构建。完全离线运行。开源项目。

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

快速轻松地将尖端LLM技术集成到您的应用中。

🤖📐专为数学建模设计的智能体，能够自动完成数学建模并生成一份可直接提交的完整论文。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

cuVS - 一个用于GPU上的向量搜索与聚类的库

Awesome Claude 目录：智能体、MCP 服务器、技能、钩子、命令、工具、指南及 AI 工作流资源。

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用