
AI大模型微调,从原理剖析到企业级落地实战
来自 网络整理·免费领取学习资源
这份资料来自网络整理2026年的付费VIP课,内容以视频为主,对应《AI大模型微调,从原理剖析到企业级落地实战》。官网需要单独购买,有集上可以免费领取。
课程简介
大模型微调能力,已成为高薪AI工程师的核心竞争力。本课程聚焦高效微调(LoRA/QLoRA)、强化学习微调(PPO/RLHF/DPO/GRPO)、数据工程(SFT/COT/偏好数据集)、模型蒸馏、Embedding微调(RAG优化)等全栈技术,并以金融大模型SFT – 奖励模型 – GRPO全链路落地为实战核心,手把手带你提升从模型选型、数据构建、多机分布式训练、效果评估与部署的工程实战力,助你成为“懂业务、会微调、能落地”的高阶AI人才
课程目录
- 第1章 模型高效微调原理剖析
- 13节
- 视频:1-1 课程介绍
- 视频:1-2 高效微调原理之什么场景需要微调?
- 视频:1-3 高效微调原理之什么场景需要RAG?
- 视频:1-4 高效微调原理之微调和全量微调的区别
- 视频:1-5 高效微调原理之预训练的流程
- 视频:1-6 高效微调原理之预训练的两个挑战
- 视频:1-7 高效微调原理之预训练之网络通信
- 视频:1-8 高效微调原理之预训练之数据并行
- 视频:1-9 高效微调原理之预训练之模型并行
- 视频:1-10 高效微调原理之预训练之3D并行
- 视频:1-11 高效微调原理之微调步骤
- 视频:1-12 高效微调原理之LoRA原理
- 视频:1-13 高效微调原理之QLoRA原理
- 第2章 大模型强化学习原理剖析
- 5节
- 视频:2-1 强化学习微调之什么是强化学习?
- 视频:2-2 强化学习微调之什么是PPO?
- 视频:2-3 强化学习微调之什么是RLHF?
- 视频:2-4 强化学习微调之什么是DPO?
- 视频:2-5 强化学习微调之什么是GRPO?
- 第3章 大模型训练数据工程
- 11节
- 视频:3-1 大模型微调数据的重要性
- 视频:3-2 大模型微调数据格式划分
- 视频:3-3 大模型微调预训练数据集
- 视频:3-4 大模型微调SFT数据集
- 视频:3-5 大模型微调偏好数据集
- 视频:3-6 大模型微调COT数据集
- 视频:3-7 大模型微调数据集生成实战
- 视频:3-8 大模型微调数据集工具部署
- 视频:3-9 大模型微调数据集构建实操-构建COT数据集
- 视频:3-10 大模型微调数据集构建实操-构建SFT数据集
- 视频:3-11 大模型微调数据集构建实操-构建偏好数据集
- 第4章 Llama-Factory 微调实战
- 15节
- 视频:4-1 Llama-Factory微调之项目介绍
- 视频:4-2 Llama-Factory微调之项目安装
- 视频:4-3 Llama-Factory微调之模型和数据准备
- 视频:4-4 Llama-Factory微调之LoRa微调实战
- 视频:4-5 Llama-Factory微调之模型效果验证
- 视频:4-6 Llama-Factory微调之核心参数剖析
- 视频:4-7 Llama-Factory微调之接入Tensorboard监控
- 视频:4-8 Text2SQL模型微调之数据集格式说明
- 视频:4-9 Text2SQL模型微调之数据集准备
- 视频:4-10 Text2SQL模型微调之数据处理
- 视频:4-11 Text2SQL模型微调之数据集注册
- 视频:4-12 Text2SQL模型微调之微调实战
- 视频:4-13 Text2SQL模型微调之模型效果校验
- 视频:4-14 Text2SQL模型微调之什么是DeepSpeed?
- 视频:4-15 Text2SQL模型微调之基于DeepSpeed实战
- 第5章 微调医疗场景 Embedding 模型
- 13节
- 视频:5-1 Embedding模型微调之RAG痛点分析
- 视频:5-2 Embedding模型微调之适用场景剖析
- 视频:5-3 Embedding模型微调之基础模型选型
- 视频:5-4 Embedding模型微调之数据集准备
- 视频:5-5 Embedding模型微调之技术方案选型
- 视频:5-6 Embedding模型微调之环境准备
- 视频:5-7 Embedding模型微调之基础模型校验
- 视频:5-8 Embedding模型微调之数据集校验
- 视频:5-9 Embedding模型微调之数据集清洗
- 视频:5-10 Embedding模型微调之微调流程演示
- 视频:5-11 Embedding模型微调之微调数据准备核心逻辑
- 视频:5-12 Embedding模型微调之微调核心代码
- 视频:5-13 Embedding模型微调之微调效果检验
- 第6章 蒸馏专属大模型
- 14节
- 视频:6-1 模型蒸馏之蒸馏和微调的本质区别
- 视频:6-2 模型蒸馏之微调和全量微调的本质区别
- 视频:6-3 模型蒸馏之为什么蒸馏方案突然火了起来?
- 视频:6-4 模型蒸馏之模型推理能力的重要性
- 视频:6-5 模型蒸馏之蒸馏流程剖析
- 视频:6-6 模型蒸馏之全量微调工具推荐
- 视频:6-7 模型蒸馏之资源评估和服务器租赁
- 视频:6-8 模型蒸馏之基础模型下载
- 视频:6-9 模型蒸馏之全量微调工具安装部署
- 视频:6-10 模型蒸馏之蒸馏数据格式说明
- 视频:6-11 模型蒸馏之基础模型效果测试
- 视频:6-12 模型蒸馏之蒸馏数据集准备
- 视频:6-13 模型蒸馏之基于Llama-Factory进行全量微调
- 视频:6-14 模型蒸馏之模型蒸馏前后效果对比
- 第7章 企业金融大模型微调项目—SFT 方案设计与落地
- 37节
- 视频:7-1 整体项目之项目背景
- 视频:7-2 整体项目之项目需求
- 视频:7-3 整体项目之技术方案
- 视频:7-4 SFT 微调之微调技术流程
- 视频:7-5 SFT 微调之数据集选择
- 视频:7-6 SFT 微调之模型选型
- 视频:7-7 SFT 微调之微调方案选型
- 视频:7-8 SFT 微调之数据集构建 – 数据集解析
- 视频:7-9 SFT 微调之数据集构建 – 数据构建策略
- 视频:7-10 SFT 微调之数据集构建 – 单轮数据集构建
- 视频:7-11 SFT 微调之数据集构建 – 多轮数据集构建
- 视频:7-12 SFT 微调之 LoRa 微调 – 微调技术方案选型
- 视频:7-13 SFT微调之LoRa微调-微调技术方案设计思考
- 视频:7-14 SFT微调之LoRa微调-微调环境构建
- 视频:7-15 SFT微调之LoRa微调-微调基座模型下载
- 视频:7-16 SFT微调之LoRa微调-数据样本初始化
- 视频:7-17 SFT微调之LoRa微调-数据处理
- 视频:7-18 SFT微调之LoRa微调-LoRA参数配置
- 视频:7-19 SFT微调之LoRa微调-SFT微调参数配置
- 视频:7-20 SFT微调之LoRa微调-创建数据整理器
- 视频:7-21 SFT微调之LoRa微调-基础模型加载
- 视频:7-22 SFT微调之LoRa微调-模型评估内存优化回调函数
- 视频:7-23 SFT微调之LoRa微调-最佳模型保存函数
- 视频:7-24 SFT微调之LoRa微调-最后模型保存函数
- 视频:7-25 SFT微调之LoRa微调-模型微调的早停机制
- 视频:7-26 SFT微调之LoRa微调-微调的checkpoints机制设置
- 视频:7-27 SFT微调之LoRa微调-DeepSeed分布式参数配置
- 视频:7-28 SFT微调之LoRa微调-TensorBoard可视化监控
- 视频:7-29 SFT微调之LoRa微调-核心监控指标之train_loss分析
- 视频:7-30 SFT微调之LoRa微调-核心监控指标之eval_loss分析
- 视频:7-31 SFT微调之LoRa微调-核心监控指标之learning_rate分析
- 视频:7-32 SFT微调之LoRa微调-核心监控指标之grad_norm分析
- 视频:7-33 SFT微调之LoRa微调-多轮对话微调数据处理
- 视频:7-34 SFT微调之LoRa微调-微调效果评估之ROUGE指标
- 视频:7-35 SFT微调之LoRa微调-微调效果评估之Perplexity指标
- 视频:7-36 SFT微调之LoRa微调-微调效果评估之评估效果说明
- 视频:7-37 SFT微调之LoRa微调-微调效果评估之SFT模型部署
- 第8章 企业金融大模型微调项目—奖励模型方案设计与落地
- 32节
- 视频:8-1 奖励模型之需求背景分析
- 视频:8-2 奖励模型之为什么选GRPO?
- 视频:8-3 奖励模型之为什么GRPO必须微调奖励模型?
- 视频:8-4 奖励模型之整体流程设计
- 视频:8-5 奖励模型之微调数据集构建方案思考
- 视频:8-6 奖励模型之微调数据集构建策略
- 视频:8-7 奖励模型之微调数据集构建脚本执行
- 视频:8-8 奖励模型之奖励模型训练路径分析
- 视频:8-9 奖励模型之基于RewardBench排行榜选型
- 视频:8-10 奖励模型之奖励模型选型
- 视频:8-11 奖励模型之微调方案技术选型
- 视频:8-12 多机多卡环境之方案设计
- 视频:8-13 多机多卡环境之分布式推理部署方案设计
- 视频:8-14 多机多卡环境之主机规划
- 视频:8-15 多机多卡环境之多机免密
- 视频:8-16 多机多卡环境之conda环境安装
- 视频:8-17 多机多卡环境之开源模型下载
- 视频:8-18 多机多卡环境之同步虚拟环境
- 视频:8-19 多机多卡环境之创建共享目录
- 视频:8-20 多机多卡环境之pdsh工具安装
- 视频:8-21 多机多卡环境之设置hosts地址
- 视频:8-22 多机多卡环境之Ray集群启动
- 视频:8-23 多机多卡环境之模型分布式推理测试
- 视频:8-24 多机多卡环境之分布式微调环境构建
- 视频:8-25 奖励模型之项目脚本设计
- 视频:8-26 奖励模型之奖励模型微调思路
- 视频:8-27 奖励模型之全流程代码设计
- 视频:8-28 奖励模型之开源奖励模型安装部署
- 视频:8-29 奖励模型之多机多卡分布式微调演练
- 视频:8-30 奖励模型之分布式环境启动
- 视频:8-31 奖励模型之效果校验脚本开发
- 视频:8-32 奖励模型之微调效果校验
- 第9章 企业金融大模型微调项目—GRPO 方案设计与落地
- 7节
- 视频:9-1 强化学习之为什么需要GRPO?
- 视频:9-2 强化学习之GRPO落地的方案选型
- 视频:9-3 强化学习之GRPO数据准备
- 视频:9-4 强化学习之GRPO环境准备
- 视频:9-5 强化学习之GRPO代码设计
- 视频:9-6 强化学习之GRPO流程演示
- 视频:9-7 项目总结
- 本课程已完结
包含内容
- · 第1章 模型高效微调原理剖析
- · 第2章 大模型强化学习原理剖析
- · 第3章 大模型训练数据工程
- · 第4章 Llama-Factory 微调实战
- · 第5章 微调医疗场景 Embedding 模型
- · 第6章 蒸馏专属大模型
- · 第7章 企业金融大模型微调项目—SFT 方案设计与落地
- · 第8章 企业金融大模型微调项目—奖励模型方案设计与落地
贡献者
学习社区
1 人正在学习
AI 工具与应用交流
交流 AI 提问、写作、绘图与应用开发,分享使用问题、实践方法和结果核对经验。