开发者资源

常用的大模型社区、推理框架、训练工具和官方文档。

推荐一个资源

共 17 个常用入口，按用途分组

模型社区

LLMCN 模型库主站中文大模型选型与对比 ↗ Hugging Face 模型与数据集仓库 ↗ ModelScope 魔搭国内模型托管与在线体验 ↗ Qwen 通义千问系列开源模型 ↗ DeepSeek 深度求索开源模型 ↗

推理框架

vLLM PagedAttention 高吞吐推理服务 ↗ SGLang 结构化生成与高性能服务 ↗ llama.cpp CPU / GGUF 量化本地推理 ↗ Ollama 本地模型运行与管理 ↗

训练与评测

Transformers 模型加载 / 训练 / 推理基础库 ↗ LLaMA-Factory 统一微调框架（SFT / LoRA / DPO） ↗ OpenCompass 大模型能力评测体系 ↗

Agent / RAG

LangChain LLM 应用与链式编排 ↗ LlamaIndex 数据接入与 RAG 编排 ↗

官方文档

vLLM 文档部署参数与服务化配置 ↗ PyTorch 文档算子、分布式与性能调优 ↗ CUDA Toolkit 文档驱动 / 版本兼容与工具链 ↗

常用话题社区常用的检索关键词

大模型 LLaMA ChatGLM Qwen 通义 DeepSeek RAG Agent 微调训练

查看更多

部署推理多模态 Embedding 向量 LangChain Ollama vLLM 提示词知识库 GPU 量化开源

按社区主题命中数排序，点任意标签即可检索相关讨论。