BC Skills Academy

生成式 AI 与 RAG 工程 — 学习指南

一份图解式、与考试对齐的学习指南,针对构建基于 LLM 的接地应用:提示工程与解码控制、端到端 RAG 流程(加载、分块、嵌入、索引、检索、重排序、生成)、向量数据库与索引、混合检索与重排序、幻觉缓解与引用、RAG 评估(忠实度、相关性、RAGAS),以及带护栏的函数调用。包含图表、对比表格和示例。

Key facts

Course outline

  1. 提示与解码控制 — 在推理时引导LLM:零样本/少样本和思维链提示、系统提示,以及解码旋钮——温度、top-k、top-p。
    • 提示技巧:零样本、少样本、思维链
    • 系统提示与角色设计
    • 解码参数:Temperature、Top-k、Top-p
  2. RAG流水线端到端 — 完整架构:离线摄取(加载、分块、嵌入、索引)和在线查询(嵌入、检索、重排序、生成),以及分块策略。
    • RAG 架构:摄取与查询
    • 文档加载与分块策略
    • 用于检索的嵌入
  3. 向量数据库与检索 — 存储和搜索嵌入:HNSW和IVF索引、相似度度量,以及稠密、稀疏与混合检索及重排序。
    • 向量数据库与 ANN 索引(HNSW、IVF)
    • 相似性度量:余弦相似度与点积
    • 稠密、稀疏与混合检索及重排序
  4. 接地、幻觉与评估 — 上下文窗口组装、幻觉原因与缓解、引用,以及使用忠实度、相关性和RAGAS衡量RAG质量。
    • 上下文窗口管理与提示组装
    • 幻觉:原因与缓解
    • 引用与基于上下文
    • 评估 RAG:忠实度、相关性、RAGAS
  5. 工具、结构化输出、护栏与成本 — 函数/工具调用、结构化JSON输出、针对提示注入的护栏和安全,以及通过缓存控制延迟和成本。
    • 函数/工具调用
    • 结构化输出(JSON)
    • 护栏、安全与提示注入
    • 缓存与成本控制