理解现代大语言模型系统-从RAG到全景 · 写给泛技术人群的概念地图：从碎片认知到系统脉络
APPENDIX

附录 · 工具库概览

下面按管线的不同环节，列出 2026 年常见的工具与平台，供对照参考。这个领域变化很快，具体工具的维护状态、命名、定价随时可能变动，落地选型时建议再核实。

按管线环节（每个环节常见的工具/平台）：

环节 这一步在做什么 常见工具/平台
文档解析／切块 把 PDF、Word 等格式读成文字，并切成小段 Unstructured、LlamaParse、LlamaIndex 的 loader 生态、Docling
嵌入模型 把文字转成向量 OpenAI embeddings、Cohere、BGE、Voyage（2025 年起属于 MongoDB1）、sentence-transformers
向量数据库 存向量、做相似度检索 Pinecone、Weaviate、Milvus、Chroma、Qdrant、pgvector
重排模型 对粗筛结果精排、只留最切题的几条 Cohere Rerank、BGE-reranker、Jina Reranker（Jina AI 2025 年起属于 Elastic2）
编排／RAG框架 把整套流程串起来的开发框架 LangChain、LlamaIndex、Haystack、RAGFlow
Agent框架 支持 ReAct 循环、多智能体协作的开发框架 LangGraph、CrewAI、Microsoft Agent Framework；模型厂商自己的 SDK：OpenAI Agents SDK、Claude Agent SDK、Google ADK；AutoGen（已进入维护模式，继任者是 Microsoft Agent Framework3）
推理服务 让大模型真正跑起来、对外提供服务 vLLM、SGLang、TGI（Text Generation Inference，2026 年 3 月已归档，官方建议改用 vLLM 或 SGLang4）
评估 衡量 RAG/Agent 系统表现好坏 RAGAS、DeepEval、TruLens、promptfoo
可观测性 记录、追踪、排查整套系统的运行状况 LangSmith、Langfuse、Arize Phoenix

（其中"重排模型"对应 3.2 漏斗的精排环节，"评估"与"可观测性"对应第一章回环 D 讲的日志反哺——工具只是把这些机制落地的现成产品。）

按品牌生态（同一家公司/社区出的一整套产品线）：

  • LangChain 系：LangChain（基础框架）+ LangGraph（专做 Agent 编排）+ LangSmith（可观测性/调试），三者是同一生态里互相搭配的产品。
  • Hugging Face 系：模型库（全球最大的开源模型集散地）+ Transformers（方便加载各种模型的程序库）+ TGI（推理服务，已归档）+ 一整套开源工具。
  • 云厂商 MaaS：AWS Bedrock、Microsoft Foundry（原 Azure AI Foundry，2025 年 11 月 Ignite 大会上更名5）、Google Gemini Enterprise Agent Platform（2026 年 4 月由 Vertex AI 演进而来6）这类服务，把嵌入模型和生成模型都打包成托管好的云端服务，企业无需自建服务器即可调用。

  1. MongoDB 新闻稿，2025-02-24：收购 Voyage AI。https://investors.mongodb.com/news-releases/news-release-details/mongodb-announces-acquisition-voyage-ai-enable-organizations ↩

  2. Elastic 新闻稿（Business Wire），2025-10-09：Elastic Completes Acquisition of Jina AI。https://www.businesswire.com/news/home/20251009619654/en/Elastic-Completes-Acquisition-of-Jina-AI-a-Leader-in-Frontier-Models-for-Multimodal-and-Multilingual-Search ↩

  3. Microsoft, autogen 仓库 README：「AutoGen is now in maintenance mode... community managed going forward」，继任者为 Microsoft Agent Framework。https://github.com/microsoft/autogen ；Microsoft, agent-framework 仓库。https://github.com/microsoft/agent-framework ↩

  4. Hugging Face, text-generation-inference 仓库 README：「text-generation-inference is now in maintenance mode」；仓库已于 2026-03-21 归档。https://github.com/huggingface/text-generation-inference ↩

  5. Microsoft Learn, What is Microsoft Foundry?（"Evolution of Foundry" 一节列有新旧名称对照：Azure AI Studio / Azure AI Foundry → Microsoft Foundry）。更名于 2025-11-18 的 Microsoft Ignite 大会上公布。https://learn.microsoft.com/en-us/azure/foundry/what-is-foundry ↩

  6. Google Cloud, Introducing Gemini Enterprise Agent Platform, 2026-04-22（Vertex AI 由此演进而来，原有功能并入新平台）。https://cloud.google.com/blog/products/ai-machine-learning/introducing-gemini-enterprise-agent-platform ↩

附录到此结束，后面还有一页速记卡片。网页版永久免费。

想把它从浏览器里拿出来：中文 39 页 / 英文 50 页，排版好的 PDF 与 EPUB、7 张原创示意图、49 条一手来源脚注——四个文件一次下载，$9 起。付款支持境外银行卡与 PayPal。

在 Gumroad 获取 PDF + EPUB →

在国内的话，可以在小红书上找到我（比白为竹间），中文版的其他获取方式我在安排。

第 2 版 · 2026 年 10 月