罗罗编程学习记录
本页内容 展开查看

10.9.2 LlamaIndex 与检索型 Agent

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.9 Agent 框架与工具链

覆盖范围

  • LlamaIndex 的定位与核心抽象
  • 数据连接器(Reader)与索引构建
  • 检索器(Retriever)与查询引擎
  • 检索型 Agent(QueryEngineAgent)
  • LlamaIndex vs LangChain 选型
  • 高级检索(Rerank、混合检索、GraphRAG)

高频题速览

编号 题目 难度 频率
10.9.2-001 LlamaIndex 的核心定位是什么? 基础 ★★★★
10.9.2-002 LlamaIndex 的数据索引流程? 进阶 ★★★
10.9.2-003 检索型 Agent 怎么工作? 进阶 ★★★
10.9.2-004 LlamaIndex vs LangChain 怎么选? 基础 ★★★★
10.9.2-005 LlamaIndex 有哪些高级检索? 进阶 ★★★
10.9.2-006 LlamaIndex 的 Agent 模式? 基础 ★★★
10.9.2-007 索引类型有哪些? 进阶 ★★★
10.9.2-008 LlamaIndex 生产环境注意事项? 基础 ★★★

10.9.2-001 LlamaIndex 的核心定位是什么?

频率 ★★★★ | 难度 基础

一句话结论

LlamaIndex 是专注于 RAG(检索增强生成)的框架:提供数据连接器、索引构建、检索器、查询引擎等全套 RAG 工具链;LangChain 是通用 LLM 应用框架,LlamaIndex 更专注于数据检索场景。

概念解释

  • 定位:RAG 专用框架,从数据接入到检索到生成全链路。
  • 核心抽象:Document、Node、Index、Retriever、QueryEngine。
  • 与 LangChain 对比:LangChain 通用,LlamaIndex 偏 RAG 和数据连接。
  • 生态:支持各种数据源(PDF、Notion、数据库、API)。

原理流程

  1. 数据接入:用 Reader 加载各种格式文档。
  2. 切分:Document 切成 Node(chunk)。
  3. 索引:Node 向量化,存入向量库。
  4. 检索:Query 相关 Node。
  5. 生成:把检索到的 Node 送入 LLM 生成回答。

代码 / 示例

from llama_index.core import SimpleDirectoryReader, VectorStoreIndex

# 加载文档
documents = SimpleDirectoryReader("./data").load_data()

# 构建索引
index = VectorStoreIndex.from_documents(documents)

# 创建查询引擎
query_engine = index.as_query_engine()

# 查询
response = query_engine.query("什么是 RAG?")
print(response)

常见误区

  • 误区:LlamaIndex 是 LangChain 的替代品;正解:LlamaIndex 专注 RAG,LangChain 是通用框架,两者可以集成。
  • 误区:LlamaIndex 只做 RAG;正解:LlamaIndex 也有 Agent 能力,但核心优势在 RAG。

追问

  • Q:LlamaIndex 适合什么场景? A:知识库问答、文档分析、企业数据检索等 RAG 重的场景。
  • Q:LlamaIndex 和 LangChain 能一起用吗? A:可以,LlamaIndex 的 Retriever 可以作为 LangChain 的工具使用。

10.9.2-002 LlamaIndex 的数据索引流程?

频率 ★★★ | 难度 进阶

一句话结论

索引流程:加载文档(Reader)→ 切分为节点(Node Parser)→ 节点向量化(Embedding)→ 存入索引(VectorStore/Index);索引类型决定了检索方式和效果。

概念解释

  • Reader:数据连接器,支持 PDF、HTML、Notion、数据库等。
  • Node Parser:把 Document 切成 chunk,控制 chunk 大小和重叠。
  • Embedding:把 Node 文本向量化。
  • Index:存储向量和元数据,决定检索策略。

原理流程

  1. 用 SimpleDirectoryReader 或自定义 Reader 加载文档。
  2. Node Parser 按 chunk 大小切分,保留元数据。
  3. Embedding 模型把每个 Node 转为向量。
  4. 向量存入 VectorStore(如 Chroma、Pinecone)。
  5. 构建索引,供查询使用。

代码 / 示例

from llama_index.core import SimpleDirectoryReader
from llama_index.core.node_parser import SentenceSplitter

# 加载
documents = SimpleDirectoryReader("./docs").load_data()

# 切分
parser = SentenceSplitter(chunk_size=512, chunk_overlap=64)
nodes = parser.get_nodes_from_documents(documents)

# 构建索引 (自动向量化)
index = VectorStoreIndex(nodes)

常见误区

  • 误区:索引就是向量库;正解:索引是 LlamaIndex 的抽象,底层可以用不同的向量库存储。
  • 误区:chunk 大小固定就好;正解:chunk 大小影响检索效果,需要根据文档类型和查询类型调整。

追问

  • Q:怎么增量更新索引? A:LlamaIndex 支持文档更新检测,只重新处理变化的文档,不需要全量重建。
  • Q:支持哪些数据源? A:LlamaHub 有上百个数据连接器,覆盖常见数据源。

10.9.2-003 检索型 Agent 怎么工作?

频率 ★★★ | 难度 进阶

一句话结论

检索型 Agent 不只是单次检索,而是让 LLM 自主决定检索什么、检索几次、是否需要重新检索:用户提问 → LLM 分析问题 → 生成检索 query → 检索 → 判断是否足够 → 不够就重新检索 → 生成回答。

概念解释

  • 单次 RAG:一次检索一次生成。
  • 检索型 Agent:多轮检索,LLM 自主决定检索策略。
  • 查询改写:LLM 把原始问题改写为更好的检索 query。
  • 自我反思:判断检索结果是否足够回答问题。

原理流程

  1. 用户提问。
  2. LLM 分析问题,决定是否需要检索。
  3. 生成检索 query,执行检索。
  4. 判断检索结果是否足够。
  5. 不够 → 改写 query,重新检索。
  6. 足够 → 生成最终回答。

代码 / 示例

from llama_index.core.agent import ReActAgent
from llama_index.core.tools import QueryEngineTool

# 创建检索工具
query_engine = index.as_query_engine()
tool = QueryEngineTool.from_defaults(
    query_engine=query_engine,
    name="doc_search",
    description="搜索文档知识库"
)

# 创建 Agent
agent = ReActAgent.from_tools([tool], llm=llm)

# Agent 会自主决定调用几次检索
response = agent.chat("我们的退款政策是什么?")

常见误区

  • 误区:检索型 Agent 一定比单次 RAG 好;正解:简单问题单次 RAG 就够了,多轮检索增加 token 和延迟,复杂问题才用 Agent。
  • 误区:检索 Agent 会无限检索;正解:需要设置最大检索次数,防止死循环。

追问

  • Q:怎么判断检索结果是否足够? A:让 LLM 判断"现有信息能否回答问题",不够就继续检索。
  • Q:多轮检索的成本? A:每轮检索都要 LLM 推理,token 成本和延迟增加,要权衡。

10.9.2-004 LlamaIndex vs LangChain 怎么选?

频率 ★★★★ | 难度 基础

一句话结论

RAG 重的场景(知识库、文档分析)选 LlamaIndex,因为它的数据连接和检索工具更完善;通用 Agent、工具调用、工作流编排选 LangChain/LangGraph;两者可以组合使用。

概念解释

  • LlamaIndex:RAG 专用,数据连接、索引、检索强。
  • LangChain:通用 LLM 应用框架,Chain、Tool、Memory 全。
  • LangGraph:复杂 Agent 编排。
  • 组合:LlamaIndex 做检索,LangChain 做 Agent 编排。

原理流程

  1. 场景是知识库问答:用 LlamaIndex。
  2. 场景是多工具 Agent:用 LangChain/LangGraph。
  3. 两者都需要:组合使用。

代码 / 示例

选型决策:

场景                    推荐
----------------------  ----------------
知识库问答/RAG          LlamaIndex
文档分析/数据处理       LlamaIndex
多工具 Agent            LangChain/LangGraph
工作流编排              LangGraph
通用 LLM 应用           LangChain
两者都需要               组合使用

常见误区

  • 误区:必须二选一;正解:两者生态开放,可以组合,LlamaIndex 的组件可以接入 LangChain。
  • 误区:LlamaIndex 功能少;正解:LlamaIndex 专注 RAG,在 RAG 领域功能比 LangChain 更细。

追问

  • Q:新项目用哪个? A:如果是 RAG 重的项目,从 LlamaIndex 开始;如果是通用 Agent,从 LangChain 开始。
  • Q:学习成本? A:两者都需要学习,但核心概念类似(Model、Prompt、Tool),学一个另一个也快。

10.9.2-005 LlamaIndex 有哪些高级检索?

频率 ★★★ | 难度 进阶

一句话结论

LlamaIndex 支持多种高级检索:向量检索(语义相似)、关键词检索(BM25)、混合检索(向量+关键词)、Rerank(重排序)、递归检索(分层检索)、知识图谱检索(GraphRAG);组合使用效果更好。

概念解释

  • 向量检索:语义相似,适合自然语言查询。
  • 关键词检索(BM25):精确匹配,适合专有名词。
  • 混合检索:两者结合,召回率更高。
  • Rerank:用 Cross-Encoder 对检索结果重排序,提升精度。
  • 递归检索:分层索引,先查大类再查小类。
  • GraphRAG:知识图谱,多跳推理。

原理流程

  1. 初步检索:向量 + BM25 混合,召回 top 20。
  2. Rerank:用 Cross-Encoder 重排,取 top 5。
  3. 送入 LLM:只把最相关的 5 个 chunk 送入。

代码 / 示例

from llama_index.core.retrievers import QueryFusionRetriever

# 混合检索: 向量 + BM25
retriever = QueryFusionRetriever(
    retrievers=[vector_retriever, bm25_retriever],
    similarity_top_k=10,
    num_queries=4  # 生成多个查询
)

# 加 Rerank
from llama_index.core.postprocessor import SentenceTransformerRerank
rerank = SentenceTransformerRerank(top_n=5)
query_engine = index.as_query_engine(
    node_postprocessors=[rerank]
)

常见误区

  • 误区:向量检索就够了;正解:专有名词和精确匹配场景,关键词检索更准,混合检索更好。
  • 误区:Rerank 是可选的;正解:Rerank 能显著提升检索精度,是生产 RAG 的标配。

追问

  • Q:Rerank 用什么模型? A:通常用 Cross-Encoder(如 bge-reranker),对 query 和 chunk 做交叉编码,精度比向量检索高。
  • Q:混合检索怎么配权重? A:通常向量和 BM25 各占一半,或用 reciprocal rank fusion 融合,具体以实验为准。

10.9.2-006 LlamaIndex 的 Agent 模式?

频率 ★★★ | 难度 基础

一句话结论

LlamaIndex 提供多种 Agent 模式:ReAct Agent(推理+行动循环)、Function Calling Agent(用模型原生 function calling)、Plan-Execute Agent(先规划再执行);根据任务复杂度选择。

概念解释

  • ReAct Agent:经典推理行动循环,适合复杂任务。
  • Function Calling Agent:用 OpenAI 等模型的原生 function calling,更稳定。
  • Plan-Execute:先规划步骤,再逐步执行,适合长任务。
  • 选择:简单任务用 Function Calling,复杂任务用 ReAct 或 Plan-Execute。

原理流程

  1. 简单工具调用:用 Function Calling Agent。
  2. 复杂多步任务:用 ReAct Agent。
  3. 长任务分解:用 Plan-Execute。

代码 / 示例

from llama_index.core.agent import FunctionCallingAgent

# Function Calling Agent (基于模型原生 function calling)
agent = FunctionCallingAgent.from_tools(
    tools=[search_tool, calculator_tool],
    llm=llm,
    verbose=True
)

response = agent.chat("帮我查一下北京明天的天气,然后算一下 23 * 45")

常见误区

  • 误区:所有 Agent 都用 ReAct;正解:Function Calling 更稳定、更省 token,支持 function calling 的模型优先用它。
  • 误区:Agent 模式越多越好;正解:选最适合任务的模式,不要为了用而用。

追问

  • Q:LlamaIndex Agent 和 LangChain Agent 有什么区别? A:核心概念类似,LlamaIndex 的 Agent 更集成 RAG 工具,LangChain 的 Agent 更通用。
  • Q:怎么防止 Agent 死循环? A:设置最大迭代次数、最大 token 数、超时时间,三层防护。

10.9.2-007 索引类型有哪些?

频率 ★★★ | 难度 进阶

一句话结论

LlamaIndex 主要索引类型:VectorStoreIndex(向量索引,最常用)、SummaryIndex(摘要索引)、KeywordTableIndex(关键词索引)、KnowledgeGraphIndex(知识图谱)、TreeIndex(树索引);不同索引适合不同场景。

概念解释

  • VectorStoreIndex:语义检索,最常用。
  • SummaryIndex:按顺序遍历,适合总结。
  • KeywordTableIndex:关键词匹配,适合精确查找。
  • KnowledgeGraphIndex:实体关系,适合多跳推理。
  • TreeIndex:分层摘要,适合长文档层级查询。

原理流程

  1. 语义搜索:VectorStoreIndex。
  2. 全文总结:SummaryIndex。
  3. 精确查找:KeywordTableIndex。
  4. 多跳推理:KnowledgeGraphIndex。

代码 / 示例

索引类型选择:

场景                推荐索引
------------------  ----------------
语义问答            VectorStoreIndex
文档总结            SummaryIndex
精确术语查找        KeywordTableIndex
多跳推理            KnowledgeGraphIndex
长文档层级查询      TreeIndex

常见误区

  • 误区:用 VectorStoreIndex 就够了;正解:不同索引适合不同场景,组合使用效果更好。
  • 误区:KnowledgeGraphIndex 比向量检索好;正解:GraphRAG 构建复杂,适合实体关系明确的场景,不是所有情况都好。

追问

  • Q:可以组合多个索引吗? A:可以,用 RouterRetriever 把多个索引组合,根据 query 类型路由到不同索引。
  • Q:怎么选索引? A:先从 VectorStoreIndex 开始,效果不够再试其他索引或组合。

10.9.2-008 LlamaIndex 生产环境注意事项?

频率 ★★★ | 难度 基础

一句话结论

生产注意:chunk 大小和重叠要调优、Embedding 模型要选对、Rerank 必须加、监控检索命中率、索引更新流程要自动化、敏感数据要脱敏;LlamaIndex 是工具,效果取决于调优。

概念解释

  • chunk 调优:chunk 大小影响检索精度,要按文档类型调。
  • Embedding 模型:选适合业务语言的模型。
  • Rerank:生产标配,提升精度。
  • 监控:检索命中率、回答质量要监控。
  • 索引更新:文档更新时自动重建索引。

原理流程

  1. 离线:调 chunk 大小、Embedding 模型、Rerank。
  2. 上线:监控检索命中率、用户反馈。
  3. 迭代:根据反馈优化。

代码 / 示例

生产 RAG 清单:
  [ ] chunk 大小经过调优 (256~1024)
  [ ] Embedding 模型适合业务语言
  [ ] Rerank 启用
  [ ] 混合检索 (向量 + BM25)
  [ ] 检索命中率监控
  [ ] 用户反馈收集
  [ ] 索引更新自动化
  [ ] 敏感数据脱敏

常见误区

  • 误区:用 LlamaIndex 就能做出好的 RAG;正解:框架是工具,效果取决于数据处理、chunk 策略、模型选择,需要大量调优。
  • 误区:RAG 效果不好是模型不行;正解:80% 的 RAG 问题出在检索质量,不是生成模型。

追问

  • Q:怎么评估 RAG 效果? A:用 RAGAS 等框架评测召回率、忠实度、答案相关性,详见 10.12 章节。
  • Q:RAG 效果不好怎么优化? A:先看检索——召回率低就改 chunk 策略或加混合检索,精度低就加 Rerank,生成不好就换模型或改 prompt。

待整理清单

  • [ ] LlamaIndex 的评测体系
  • [ ] 多模态 RAG 实现
  • [ ] 增量索引与版本管理
  • [ ] 分布式索引构建
  • [ ] LlamaIndex 与向量库的集成细节