language-model

20多个高性能大语言模型，附有预训练、微调和规模化部署的方案

一款基于GPT赋能的渗透测试工具

用于语言模型少样本评估的框架。

TensorZero是工业级LLM应用的开源技术栈，整合了LLM网关、可观测性、优化、评估与实验功能。

专为研究和生产优化的极速前沿分词器

语音转语音：致力于构建开源模块化GPT4-o的项目

Pocket Flow：百行代码的LLM框架。让智能体构建智能体！

⚙️🦀 用 Rust 构建模块化、可扩展的 LLM 应用程序

FinRobot：基于大语言模型的金融分析开源AI智能体平台🚀 🚀 🚀

一种训练大语言模型的直接方法，涵盖从数据下载到文本生成的完整流程。

用Python编写的开源离线翻译库

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

🚀 顶尖线性注意力模型的高效实现

MLX-VLM：基于MLX在Mac上进行视觉语言模型推理与微调的工具包

面向加速基础设施与微服务架构优化的生成式AI参考工作流

[ICLR 2023] ReAct：在语言模型中协同推理与行动

Eagle：采用数据驱动策略的前沿视觉语言模型

使用PyTorch从零开始逐步实现一个推理大语言模型

QuantAgent官方仓库

动手学Ollama，在CPU上玩转大模型部署，在线阅读地址：https://datawhalechina.github.io/handy-ollama/

免费获取GPT-5.5、Claude、DeepSeek、Gemini、Grok的LLM API密钥——复制、粘贴、使用。每日更新3-5次。无需信用卡。

使用Liquid AI基础模型与LEAP SDK构建的示例、端到端教程及应用

A high-performance inference engine for LLM, VLM, DiT and REC models, optimized for diverse AI accelerators. It is hosted in OpenAtom Foundation.

专为多种AI加速器优化的大语言模型高性能推理引擎。