생성형 AI 및 RAG 엔지니어링 — 학습 가이드
근거 기반 LLM 애플리케이션 구축을 위한 그림과 시험에 맞춘 학습 가이드입니다: 프롬프팅 및 디코딩 제어, 종단 간 RAG 파이프라인(로드, 청크, 임베드, 인덱스, 검색, 재순위화, 생성), 벡터 데이터베이스 및 인덱스, 하이브리드 검색 및 재순위화, 환각 완화 및 인용, RAG 평가(충실도, 관련성, RAGAS), 함수 호출 및 가드레일. 다이어그램, 비교 표 및 실제 예제가 전체에 걸쳐 포함됩니다.
Key facts
- Course price: $195 (one-time payment)
- Field: Artificial Intelligence & LLMs
- Prepares for: 생성형 AI & RAG 엔지니어링
- 5 modules · 17 lessons · about 4 hours of lessons
- Self-paced, online, illustrated lessons
Course outline
- 프롬프팅 및 디코딩 제어 — 추론 시 LLM 제어: 제로/퓨샷 및 사고 사슬 프롬프팅, 시스템 프롬프트 및 디코딩 다이얼(온도, top-k, top-p)입니다.
- 프롬프팅 기법: 제로샷, 퓨샷, 사고 사슬
- 시스템 프롬프트 및 역할 설계
- 디코딩 파라미터: Temperature, Top-k, Top-p
- RAG 파이프라인 종단 간 — 전체 아키텍처: 오프라인 수집(로드, 청크, 임베드, 인덱스) 및 온라인 쿼리(임베드, 검색, 재순위, 생성)와 청킹 전략입니다.
- RAG 아키텍처: 수집 및 쿼리
- 문서 로딩 및 청킹 전략
- 검색을 위한 임베딩
- 벡터 데이터베이스 및 검색 — 임베딩 저장 및 검색: HNSW 및 IVF 인덱스, 유사도 지표, 밀집 대 희소 대 하이브리드 검색 및 재순위화입니다.
- 벡터 데이터베이스 및 ANN 인덱스 (HNSW, IVF)
- 유사도 측정: 코사인 유사도와 내적
- 밀집, 희소 및 하이브리드 검색 + 재순위화
- 근거, 환각 및 평가 — 컨텍스트 윈도우 조립, 환각 원인 및 완화, 인용, 충실도, 관련성 및 RAGAS를 사용한 RAG 품질 측정입니다.
- 컨텍스트 윈도우 관리 및 프롬프트 조립
- 환각: 원인 및 완화
- 인용 및 근거
- RAG 평가: 충실성, 관련성, RAGAS
- 도구, 구조화된 출력, 가드레일 및 비용 — 함수/도구 호출, 구조화된 JSON 출력, 프롬프트 인젝션에 대한 가드레일 및 안전, 캐싱을 통한 지연 시간 및 비용 제어입니다.
- 함수 / 도구 호출
- 구조화된 출력 (JSON)
- 가드레일, 안전 및 프롬프트 인젝션
- 캐싱 및 비용 제어