استنتاج LLM والنشر على نطاق واسع
أتِح نماذج اللغة الكبيرة بسرعة وبتكلفة منخفضة وبموثوقية عالية على نطاق واسع
Key facts
- Level: Professional
- Field: Artificial Intelligence & LLMs
- Certification price: $194 (one-time payment)
- Online course: استدلال LLM ونشره على نطاق واسع — دليل دراسة — $195
- Course + exam bundle: $389
- Exam: 75 multiple-choice questions · 105 minutes · passing score 75% · up to 3 attempts
- Estimated study time: about 38 hours
- Validity: 24 months
- Certification language: English
About the استنتاج LLM والنشر على نطاق واسع certification
حوّل نموذجًا مُدرَّبًا إلى خدمة إنتاجية سريعة وميسورة التكلفة وموثوقة تحت حركة مرور حقيقية. تغطي هذه الشهادة الاحترافية كيفية اختلاف الاستنتاج جوهريًا عن التدريب، وحلقة فك التشفير الذاتي التكراري، والمرحلتين اللتين تُهيمنان على التكلفة: الإسبقية (prefill) المقيّدة بالحوسبة وفك التشفير (decode) المقيّد بالذاكرة. ستتقن ذاكرة تخزين KV المؤقتة — سبب وجودها، وتكلفتها في ذاكرة GPU، ولماذا هي — لا الأوزان — في الغالب تُحدّد الإنتاجية — واستراتيجيات التجميع التي تُوزّع تلك التكلفة: التجميع الثابت والديناميكي والمستمر (في الرحلة). تأتي بعد ذلك مجموعة أدوات الخدمة الأساسية: PagedAttention وvLLM لإدارة ذاكرة KV المؤقتة الكفوءة، وFlashAttention للانتباه الواعي بالإدخال/الإخراج، والكميّة (int8/int4 وGPTQ وAWQ وGGUF، والأوزان فقط مقابل الأوزان والتنشيط) ومقايضات دقتها، وفك التشفير التخميني/المساعَد لتقليل زمن الاستجابة، والتوازي في المتجهات للنماذج الكبيرة جدًا لـGPU واحدة. ستُجري حسابات ذاكرة GPU (المعاملات وذاكرة KV المؤقتة والتنشيطات)، وتستدل حول مقاييس زمن الاستجابة المهمة — TTFT وTPOT/ITL والإجمالي — وتتنقل في مقايضة الإنتاجية مقابل زمن الاستجابة. أخيرًا ستشغّل الخدمة: الضبط التلقائي لحجم الخدمة وموازنة الحمل، واختيار حزمة الخدمة (vLLM / TGI / TensorRT-LLM)، والتخزين المؤقت للتوجيه والبادئة، وتحسين التكلفة، والمراقبة والرصد، وضمانات الحماية عند وقت الخدمة. بحلول النهاية ستكون قادرًا على تحديد حجم نشر استنتاج LLM حقيقي ونشره وضبطه والدفاع عنه.
Course outline
The استدلال LLM ونشره على نطاق واسع — دليل دراسة course covers:
- من التدريب إلى الاستدلال — لماذا الخدمة مشكلة مختلفة: حلقة فك الترميز الأمامية فقط، تقسيم التعبئة/فك الترميز، وذاكرة التخزين المؤقت KV التي تحدد استدلال LLM. (3 lessons)
- ذاكرة التخزين المؤقت KV وحساب ذاكرة GPU — لماذا توجد ذاكرة التخزين المؤقت KV، ما تكلفته، وكيفية تحديد حجم الأوزان + KV + التنشيطات لنشر حقيقي. (3 lessons)
- التجميع ونوى الانتباه — التجميع الثابت والديناميكي والمستمر؛ الترحيل المقسم لـ PagedAttention؛ وانتباه FlashAttention الدقيق الواعي بالإدخال/الإخراج. (3 lessons)
- الكمية وفك الترميز الأسرع — كمية الأوزان والتنشيطات Int8/Int4 (GPTQ، AWQ، GGUF)، مفاضلة الدقة، وفك الترميز التخميني. (3 lessons)
- الخدمة على نطاق واسع — مقاييس زمن الوصول، مفاضلات الإنتاجية/زمن الوصول، توازي التوتر، حزم الخدمة، التخزين المؤقت، التوسع التلقائي، التكلفة، المراقبة، والحواجز. (4 lessons)
Prerequisites
Frequently asked questions
- Is the استنتاج LLM والنشر على نطاق واسع certificate verifiable?
- Yes. Every certificate issued by BC Skills Academy carries a unique credential ID that anyone can check on the public verification page.
- How is the استنتاج LLM والنشر على نطاق واسع exam structured?
- It is a timed, randomized multiple-choice exam of 75 questions in 105 minutes, graded instantly; you need 75% to pass.
- Can I get a refund?
- Full refund within 7 days of purchase if you have not started the exam. Once the exam has been started or completed, the purchase is no longer refundable.