深度学习专家 — 学习指南

一份可视化、示例驱动的学习指南，针对深度学习专家认证。构建神经网络的工作心智模型：前向传播、反向传播与链式法则、激活函数与损失函数、优化器与调度、初始化与梯度病理、完整的正则化与归一化工具包，以及两大架构家族——CNN 和 RNN/LSTM——加上嵌入、迁移学习，以及 GPU 和批处理大小的实际应用。包含图表、对比表格和一个完整的小型前向与反向传播示例。

Key facts

• Course price: $195 (one-time payment)
• Field: Artificial Intelligence & LLMs
• Prepares for: 深度学习专业
• 5 modules · 15 lessons · about 4 hours of lessons
• Self-paced, online, illustrated lessons

Course outline

1. 神经元、网络与前向传播 — 从感知机到多层网络：前向传播如何将输入转化为预测，以及为什么非线性至关重要。
   • 感知机与多层感知机
   • 前向传播：逐步解析
   • Softmax 与预测生成
2. 反向传播与链式法则 — 网络如何学习：损失函数、链式法则、反向梯度流，以及一个完整的小型前向和反向传播示例。
   • 损失函数：MSE 与交叉熵
   • 链式法则与反向传播
   • 工作示例：一个小型前向 + 反向传播
3. 激活函数、优化器与学习率 — 使训练工作的杠杆：激活函数、从SGD到Adam的优化器家族、学习率调度——以及训练循环。
   • 激活函数对比
   • 优化器：SGD、动量、RMSprop、Adam
   • 学习率调度与预热
4. 训练真正有效的深度网络 — 初始化、梯度病理、正则化和归一化——以及将它们结合起来的完整训练循环。
   • 初始化与梯度病理
   • 正则化：Dropout、权重衰减、早停
   • 归一化与训练循环
5. CNN、RNN与迁移学习 — 两大架构家族——卷积和循环——以及嵌入、迁移学习、数据增强和GPU/批大小现实。
   • 卷积神经网络
   • RNN、LSTM 和 GRU 处理序列
   • 嵌入、迁移学习和硬件现实