生成式 AI 与 RAG 工程 — 学习指南
一份图解式、与考试对齐的学习指南,针对构建基于 LLM 的接地应用:提示工程与解码控制、端到端 RAG 流程(加载、分块、嵌入、索引、检索、重排序、生成)、向量数据库与索引、混合检索与重排序、幻觉缓解与引用、RAG 评估(忠实度、相关性、RAGAS),以及带护栏的函数调用。包含图表、对比表格和示例。
Key facts
- Course price: $195 (one-time payment)
- Field: Artificial Intelligence & LLMs
- Prepares for: 生成式AI与RAG工程
- 5 modules · 17 lessons · about 4 hours of lessons
- Self-paced, online, illustrated lessons
Course outline
- 提示与解码控制 — 在推理时引导LLM:零样本/少样本和思维链提示、系统提示,以及解码旋钮——温度、top-k、top-p。
- 提示技巧:零样本、少样本、思维链
- 系统提示与角色设计
- 解码参数:Temperature、Top-k、Top-p
- RAG流水线端到端 — 完整架构:离线摄取(加载、分块、嵌入、索引)和在线查询(嵌入、检索、重排序、生成),以及分块策略。
- RAG 架构:摄取与查询
- 文档加载与分块策略
- 用于检索的嵌入
- 向量数据库与检索 — 存储和搜索嵌入:HNSW和IVF索引、相似度度量,以及稠密、稀疏与混合检索及重排序。
- 向量数据库与 ANN 索引(HNSW、IVF)
- 相似性度量:余弦相似度与点积
- 稠密、稀疏与混合检索及重排序
- 接地、幻觉与评估 — 上下文窗口组装、幻觉原因与缓解、引用,以及使用忠实度、相关性和RAGAS衡量RAG质量。
- 上下文窗口管理与提示组装
- 幻觉:原因与缓解
- 引用与基于上下文
- 评估 RAG:忠实度、相关性、RAGAS
- 工具、结构化输出、护栏与成本 — 函数/工具调用、结构化JSON输出、针对提示注入的护栏和安全,以及通过缓存控制延迟和成本。
- 函数/工具调用
- 结构化输出(JSON)
- 护栏、安全与提示注入
- 缓存与成本控制