#llm 每日趋势报告

智能体性能优化系统。为Claude Code、Codex、Opencode、Cursor等工具提供技能、本能、记忆、安全及研究优先的开发支持。

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

可在极小设备上运行的2600万参数函数调用模型

可在极小设备上运行的2600万参数函数调用模型

🪨 能用少量token解决问题时何必用大量token——通过像穴居人一样说话来削减65%token的Claude Code技巧

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

🌐 让网站可供AI智能体访问。轻松实现在线任务自动化。

Bonsai 演示

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

The Memory Layer for AI Agents - Drop-in memory infrastructure for AI agents and apps. Context that persists. Built for production.

高质量PDF转Markdown和JSON工具。一站式开源数据提取解决方案，实现PDF到Markdown与JSON格式的精准转换。

Android平台最强大的人工智能助手与AI聊天软件

使用单张4GB GPU实现AirLLM 70B推理

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

🎭 AI 写小说：从零生成 10-50 章完整中文小说，三层问答 · 创作记忆 · 悬念钩子 · 自动校验，长篇网文连载皆宜｜开源免费，适配主流 coding agent｜AI novel writing skill

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

FlashInfer：大语言模型服务的核心计算库

AxonHub是一个现代化的AI网关系统，提供统一的OpenAI、Anthropic、Gemini及AI SDK兼容API接口

专为语言学习打造的媒体播放器，具备双语字幕、AI生成字幕、实时翻译等功能！

AgentScope Java：面向智能体编程的LLM应用构建框架

通过模型上下文协议将大型语言模型与高级AI智能体连接至Unity编辑器的AI桥梁。可直接在项目中与AI对话生成代码、调试错误并自动化游戏开发任务

OpenVINO™是用于优化和部署AI推理的开源工具套件

在Anthropic官方Claude插件目录中·515个专业Agent技能（PRD、产品发布、合规、简历等），适用于Claude、ChatGPT、Gemini、Cursor及Codex。可在浏览器中免费试用，或运行'npx pm-claude-skills add'。

快速轻松地将尖端LLM技术集成到您的应用中。

快速灵活的LLM推理

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

🦍 云原生API网关与AI网关。

面向昇腾平台的vLLM社区维护硬件插件