تدريب LLM وضبطه الدقيق — دليل دراسة
دليل دراسة مصوّر ومتوافق مع الامتحان يغطي دورة حياة LLM الكاملة: أهداف التدريب المسبق والبيانات، قوانين القياس، التدريب الموزع والدقة المختلطة، الضبط الدقيق الموجَّه، محاذاة RLHF وDPO، والضبط الدقيق الفعّال من حيث المعلمات (LoRA/QLoRA). رسوم بيانية، جداول مقارنة، وأمثلة محلولة في جميع الأنحاء.
Key facts
- Course price: $195 (one-time payment)
- Field: Artificial Intelligence & LLMs
- Prepares for: تدريب LLM والضبط الدقيق
- 6 modules · 18 lessons · about 4 hours of lessons
- Self-paced, online, illustrated lessons
Course outline
- أهداف التدريب المسبق والبيانات — كيف تتعلم النماذج الأساسية: النمذجة اللغوية السببية مقابل المقنعة، التنبؤ بالرمز التالي، وتنظيم البيانات الذي يصنع أو يكسر المجموعة.
- النمذجة اللغوية السببية مقابل المقنَّعة
- الحيرة والخسارة التي تُحسّنها
- تنظيم البيانات: التصفية، إزالة التكرار، إزالة التلوث
- الترميزات وقوانين التحجيم — بناء المفردات التي يفكر بها النموذج، وحساب Chinchilla الذي يخبرك بكمية وحجم التدريب.
- تدريب المُرمِّز (BPE وأصدقاؤه)
- شينشيلا: الحسابات، البيانات والمعلمات
- قراءة منحنى الخسارة
- التدريب الموزع على نطاق واسع — تقسيم النموذج عبر العديد من وحدات GPU: توازي البيانات، التوتر، وخط الأنابيب، بالإضافة إلى ZeRO/FSDP، التراكم، ونقاط التفتيش.
- توازي البيانات والتوتر والأنابيب
- ZeRO / FSDP: تجزئة البصمة
- التراكم ونقاط التحقق من التنشيط
- الدقة المختلطة والتحسين — fp16 مقابل bf16، تحجيم الخسارة، الأوزان الرئيسية fp32، وجداول الإحماء/الانحلال التي تحافظ على استقرار التدريب.
- fp16 مقابل bf16 وتوسيع نطاق الخسارة
- لماذا نسخة رئيسية fp32؟
- الإحماء، التضاؤل و AdamW
- الضبط الدقيق والمواءمة — من النموذج الأساسي إلى المساعد المفيد: SFT وقوالب الدردشة، RLHF مع نماذج المكافأة وPPO، وDPO الأبسط.
- خط أنابيب المحاذاة و SFT
- RLHF: نماذج المكافأة وPPO
- DPO: التوافق بدون حلقة التعلم المعزز
- PEFT والنسيان والتقييم — التكيف بتكلفة منخفضة باستخدام LoRA/QLoRA، تجنب النسيان الكارثي والتلوث، وتقييم النماذج المضبوطة بدقة بأمانة.
- LoRA والمحول منخفض الرتبة
- QLoRA وعائلة PEFT
- النسيان، التلوث والتقييم الصادق