由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

mlsys

话题找到数量

Infrasys-AI/AISystem

Jupyter Notebook

AISystem 主要是指AI系统，包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术。

ai aiinfra aisys
Infrasys-AI
Infrasys-AI 开发者
17k
2.4k
252
+145
排名 #10
8月2日
查看详情

inclusionAI/AReaL

Python

专为大型语言模型推理与智能体打造的闪电式强化学习框架。

agent llm llm-agent
inclusionAI
inclusionAI 开发者
4.6k
378
525
+969
排名 #9
3月8日
查看详情

thu-ml/SageAttention

Cuda

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

attention cuda efficient-attention
thu-ml
thu-ml 开发者
3.6k
455
598
+16
排名 #1
8月5日
查看详情

thu-ml/SpargeAttn

Cuda

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

ai-infra attention inference-acceleration
thu-ml
thu-ml 开发者
951
87
549
+1
排名 #8
2月25日
查看详情
助手