large-language-model

一种训练大语言模型的直接方法，涵盖从数据下载到文本生成的完整流程。

🚀 顶尖线性注意力模型的高效实现

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

面向加速基础设施与微服务架构优化的生成式AI参考工作流

[ICLR 2023] ReAct：在语言模型中协同推理与行动

Eagle：采用数据驱动策略的前沿视觉语言模型

使用PyTorch从零开始逐步实现一个推理大语言模型

QuantAgent官方仓库

动手学Ollama，在CPU上玩转大模型部署，在线阅读地址：https://datawhalechina.github.io/handy-ollama/

免费获取GPT-5.5、Claude、DeepSeek、Gemini、Grok的LLM API密钥——复制、粘贴、使用。每日更新3-5次。无需信用卡。

A high-performance inference engine for LLM, VLM, DiT and REC models, optimized for diverse AI accelerators. It is hosted in OpenAtom Foundation.

专为多种AI加速器优化的大语言模型高性能推理引擎。

学术调查论文生成。

为所有人铺平通往开放智能体和通用人工智能的道路。

用于保护机器学习和 AI 系统的 MLSecOps 工具和资源的精选列表 - 对抗性 ML 防御、LLM 安全、AI 红队、模型扫描、供应链保护和 MLOps 管道安全。

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用

正在进行的大规模变压器模型训练研究

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

《深入理解AI Agent：设计原理与工程实践》（李博杰着）开源主仓库：全书正文、编译版PDF与按章安装代码