课程目录

• Llama3大模型原理代码精讲与部署微调评估实战
• transformer-pytorch-01
• 课件-llama3代码解析-01
• 课件-llama3原理-01
• 课件-llama_factory微调llama3项目实战-阿里云-01
• 课件-llama大模型进化和生态-01
• 课件-ollama部署llama3-阿里云-01
• 课件-vLLM部署llama3-阿里云-01
• 课件-大模型微调原理-01
• 课件-大模型文本生成-01
• 原理1-注意力机制-01
• 原理2-Transformer-01
• 1 课程介绍
• 10 Transformer机器翻译工作流程
• 11 Transformer的Encoder代码解读
• 12 Transformer的Decoder代码解读
• 13 Transformer的超参设置代码解读
• 14 Transformer的训练示例（人为随机数据）代码解读
• 15 Transformer的训练示例(德语-英语机器翻译)代码解
• 16 结合中文注释代码深入解读1
• 17 结合中文注释代码深入解读2
• 18 LLM推理方式
• 19 文本生成模式
• 2 注意力机制
• 20 文本生成策略
• 21 Token和分词器
• 22 文本生成过程
• 23 prefill和解码阶段
• 24 llama3文本生成过程
• 25 文本生成时的QKV含义
• 26 大模型开发阶段划分
• 27 SFT微调
• 28 微调方法(全参、冻结参数、LoRA、QLoRA)
• 29 LoRA微调
• 3 自注意力机制
• 30 QLoRA微调
• 31 llama模型进化史
• 32 llama3模型类型
• 33 llama大模型生态
• 34 llama3模型架构
• 35 RMSNorm归一化
• 36 SwiGLU激活函数
• 37 RoPE旋转位置编码
• 38 GQA分组查询注意力
• 39 KVCache
• 4 Transformer的架构概述
• 40 各文件功能
• 41 completion和chat应用脚本代码解析
• 42 generation.py代码解析
• 43 model.py代码解析
• 44 tokenizer.py代码解析
• 45 RMSNorm代码解析
• 46 SwiGLU代码解析
• 47 GQA代码解析
• 48 RoPE代码解析
• 49 KVCache代码解析
• 5 Transformer Encoder的多头注意力
• 50 阿里云实例创建
• 51 ollama介绍
• 52 ollama安装
• 53 llama3推理
• 54 vLLM部署llama3
• 55 llama_factory介绍
• 56 llama_factory安装及llama3模型下载
• 57 LoRA微调训练
• 58 llama3中文增强大模型推理
• 59 llama3中文增强大模型评估
• 6 Transformer Encoder的位置编码
• 60 lora文件合并
• 61 数据集准备
• 62 lora 微调
• 63 llama3医疗问答大模型推理
• 64 qlora微调
• 65 qlora微调的医疗问答大模型推理
• 7 Transformer 残差链接、LayerNorm、FFN
• 8 Transformer Decoder
• 9 Transformer 训练及性能