#llm 每日趋势报告

Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors

A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.

🪨 能用少量token解决问题时何必用大量token——通过像穴居人一样说话来削减65%token的Claude Code技巧

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

Android平台最强大的人工智能助手与AI聊天软件

用户友好型AI交互界面（支持Ollama、OpenAI API等）

Gentle-AI 配置您已使用的 AI 编码代理：Claude Code、Cursor、OpenCode、Codex、Pi 等。选择持久内存、规范驱动开发、策划技能、MCP 服务器、角色和可选的有界审查。开源，无代理锁定。

RikkaHub是一款支持多种LLM提供商的Android应用

Your Personal Librarian Agent. Ask anything on your computer, organize files, remember important info and files.

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

针对GPT 6.0,workbuddyV4.1flash的破甲实验项目

MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

🐙 提示工程指南、论文、讲座、笔记本及资源

AI 时代的伯克希尔：基于 Claude Code 的价值投资研究框架。巴菲特、芒格、段永平、李录四大师方法论 + 多智能体并行研究。

利用AI驱动的反思优化来优化提示词、代码等

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

AgentScope Java：面向智能体编程的LLM应用构建框架

OpenVINO™是用于优化和部署AI推理的开源工具套件

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

面向Claude Code的多触手协调器——整合Codex CLI与Gemini CLI，通过智能上下文路由实现并行任务执行

本代码库提供端到端的代码优先教程，涵盖生产级生成式AI智能体的每个层级，通过经过验证的模式和可复用的蓝图，指导您从创意火花到规模化部署，助力实际应用落地。

FlashInfer：大语言模型服务的核心计算库

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

A curated list of open-source AI agent platforms: AI coworkers and teammates, agent builders and frameworks, workflow automation platforms, browser agents, and coding agents, with licenses.

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

cuVS - 一个用于GPU上的向量搜索与聚类的库

顶尖自然语言处理技术

Scala中的智能体与大型语言模型编程