#llm 每日趋势报告

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

📚 《从零开始构建智能体》——从零起步的智能体原理与实践教程

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

红队自主黑客代理

🐙 提示工程指南、论文、讲座、笔记本及资源

在 OpenAI 兼容端点后面的 Apple Silicon (MLX) 上进行快速、准确的 LLM 解码

RAGFlow 是领先的开源检索增强生成引擎，融合尖端 RAG 与智能体能力，为大型语言模型构建卓越的上下文层

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

本代码库提供端到端的代码优先教程，涵盖生产级生成式AI智能体的每个层级，通过经过验证的模式和可复用的蓝图，指导您从创意火花到规模化部署，助力实际应用落地。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

🔥企业级低代码平台集成AI应用平台，帮助企业快速实现低代码开发与AI应用构建！前后端分离架构采用SpringBoot、SpringCloud、Mybatis、Ant Design4、Vue0、TS+vite！强大的代码生成器实现前后端代码一键生成，无需编写任何代码！引领AI低代码开发模式：AI生成→OnlineCoding→代码生成→手工合并，显著提升效率同时保持灵活性~

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

从零开始的大语言模型原理与实践教程

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

AgentScope Java：面向智能体编程的LLM应用构建框架

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

开源UI优先的身份与访问管理平台/单点登录平台，提供支持OAuth 0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory及Kerberos的Web用户界面。

A collection of scientific methods, processes, algorithms, and systems to build stories & models.

FlashInfer：大语言模型服务的核心计算库

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

🦍 云原生API网关与AI网关。

✨ AI 编程，Vim 风格

用于 Symfony 应用程序的 AI 驱动的多代理安全审核员，通过 symfony/ai 与提供商无关。

由自主代理策划的人工智能工具。每两周更新一次。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

终极零安装、便携式本地AI环境。直接从任何USB驱动器或SSD运行高质量、未经审查的LLM（Gemma、Qwen、NemoMix）。完全离线隔离、跨平台（Win/Mac/Linux），并支持持久化聊天历史，隐私优先。