cto - Transformer原理与代码精讲
来自 网络整理·免费领取学习资源
这份资料来自网络整理2026年的付费VIP课，内容以视频为主，对应《cto - Transformer原理与代码精讲》。官网需要单独购买，有集上可以免费领取。
资源介绍：
Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大
本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲，来帮助大家掌握其详细原理和具体实现
原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接（Residual Connection）、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程
代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读，包括：安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读
课程目录
- 01 课程介绍
- 02 Transformer原理精讲
- 01 注意力机制和自注意力机制
- 02 Transformer的架构概述
- 03 Transformer Encoder的多头注意力
- 04 Transformer Encoder的位置编码
- 05 Transformer 残差链接、LayerNorm、FFN
- 06 Transformer Decoder
- 07 Transformer的训练及性能
- 08 Transformer的机器翻译工作流程
- 03 Transformer代码精讲（Pytorch）
- 01 安装pytorch
- 02 Transformer的Encoder代码解读
- 03 Transformer的Decoder代码解读
- 04 Transformer的超参设置代码解读
- 05 Transformer的训练示例（人为随机数据）代码解读
- 06 Transformer的训练示例(机器翻译)代码解读
- 04 Transformer代码精讲（TensorFlow 2）
- 01 安装TensorFlow
- 02 Transformer的数据集加载与预处理代码解读
- 03 Transformer的位置编码与多头注意力代码解读
- 04 Transformer的Transformer类代码解读
- 05 Transformer的优化器与损失函数代码解读
- 06 Transformer的训练代码解读
- 07 Transformer的推理与权重保存代码解读
包含内容
- · 01 课程介绍
- · 02 Transformer原理精讲
- · 01 注意力机制和自注意力机制
- · 02 Transformer的架构概述
- · 03 Transformer Encoder的多头注意力
- · 04 Transformer Encoder的位置编码
- · 05 Transformer 残差链接、LayerNorm、FFN
- · 06 Transformer Decoder
贡献者
学习社区
1 人正在学习
AI 工具与应用交流
交流 AI 提问、写作、绘图与应用开发，分享使用问题、实践方法和结果核对经验。