课程目录

• 1.笔记
• 尚硅谷大模型技术之NLP1.0.3.docx
• 2.资料
• 1.词向量
• sgns.weibo.word.bz2
• 2.数据集
• 1.评论数据集
• 2.对话数据集
• 3.中英短句数据集
• 3.预训练模型
• bert-base-chinese
• 3.代码
• 4.视频
• 001-NLP-课程简介
• 002-NLP-课程概述
• 003-NLP-导论-常见任务
• 004-NLP-导论-技术演进历史
• 005-NLP-环境准备
• 006-NLP-文本表示-概述
• 007-NLP-文本表示-分词-英文分词
• 008-NLP-文本表示-分词-英文分词-BPE算法
• 009-NLP-文本表示-分词-中文分词
• 010-NLP-文本表示-分词-分词工具-概述
• 011-NLP-文本表示-分词-分词工具-jieba-分词模式
• 012-NLP-文本表示-分词-分词工具-jieba-分词模式-API
• 013-NLP-文本表示-分词-分词工具-jieba-自定义词典
• 014-NLP-文本表示-词表示-one-hot&语义化词向量-概述
• 015-NLP-文本表示-词表示-语义化词向量-Word2Vec-概述
• 016-NLP-文本表示-词表示-语义化词向量-Word2Vec-原理-Skip-Gram
• 017-NLP-文本表示-词表示-语义化词向量-Word2Vec-原理-CBOW
• 018-NLP-文本表示-词表示-语义化词向量-Word2Vec-获取-公开词向量-说明
• 019-NLP-文本表示-词表示-语义化词向量-Word2Vec-获取-公开词向量-编码
• 020-NLP-文本表示-词表示-语义化词向量-训练词向量-概述
• 021-NLP-文本表示-词表示-语义化词向量-训练词向量-实操
• 022-NLP-文本表示-词表示-语义化词向量-应用-概述
• 023-NLP-文本表示-词表示-语义化词向量-应用-编码
• 024-NLP-文本表示-词表示-语义化词向量-应用-OOV问题
• 025-NLP-文本表示-词表示-上下文相关词向量
• 026-NLP-传统序列模型-RNN-概述
• 027-NLP-传统序列模型-RNN-基础结构
• 028-NLP-传统序列模型-RNN-示意图
• 029-NLP-传统序列模型-RNN-多层结构
• 030-NLP-传统序列模型-RNN-双向结构
• 031-NLP-传统序列模型-RNN-多层+双向结构
• 032-NLP-传统序列模型-RNN-API-构造参数
• 033-NLP-传统序列模型-RNN-API-输入输出-概述
• 034-NLP-传统序列模型-RNN-API-输入输出-含义
• 035-NLP-传统序列模型-RNN-API-输入输出-形状分析
• 036-NLP-传统序列模型-RNN-API-小练习
• 037-NLP-传统序列模型-案例-概述
• 038-NLP-传统序列模型-案例-思路分析-数据集说明
• 039-NLP-传统序列模型-案例-思路分析-模型结构和训练思路
• 040-NLP-传统序列模型-RNN-案例-项目结构
• 041-NLP-传统序列模型-RNN-案例-数据预处理-思路分析
• 042-NLP-传统序列模型-RNN-案例-数据预处理-读取json文件
• 043-NLP-传统序列模型-RNN-案例-数据预处理-文件路径说明
• 044-NLP-传统序列模型-RNN-案例-数据预处理-文件路径处理
• 045-NLP-传统序列模型-RNN-案例-数据预处理-构建并保存词表
• 046-NLP-传统序列模型-RNN-案例-数据预处理-构建训练集
• 047-NLP-传统序列模型-RNN-案例-数据预处理-保存训练集&测试集
• 048-NLP-传统序列模型-RNN-案例-数据集-说明
• 049-NLP-传统序列模型-RNN-案例-数据集-编码
• 050-NLP-传统序列模型-RNN-案例-模型定义-初始化方法
• 051-NLP-传统序列模型-RNN-案例-模型定义-前向传播
• 052-NLP-传统序列模型-RNN-案例-训练脚本-环境准备
• 053-NLP-传统序列模型-RNN-案例-训练脚本-训练循环
• 054-NLP-传统序列模型-RNN-案例-训练脚本-单个轮次的训练逻辑
• 055-NLP-传统序列模型-RNN-案例-训练脚本-Tensorboard使用说明
• 056-NLP-传统序列模型-RNN-案例-训练脚本-保存模型
• 057-NLP-传统序列模型-RNN-案例-预测脚本-说明
• 058-NLP-传统序列模型-RNN-案例-预测脚本-编码-上
• 059-NLP-传统序列模型-RNN-案例-预测脚本-编码-下
• 060-NLP-传统序列模型-RNN-案例-评估脚本-说明
• 061-NLP-传统序列模型-RNN-案例-评估脚本-编码
• 062-NLP-传统序列模型-RNN-案例-代码改造说明
• 063-NLP-传统序列模型-RNN-案例-Tokenizer-说明
• 064-NLP-传统序列模型-RNN-案例-Tokenizer-编码
• 065-NLP-传统序列模型-RNN-存在问题-概述
• 066-NLP-传统序列模型-RNN-存在问题-分析
• 067-NLP-传统序列模型-LSTM-概述
• 068-NLP-传统序列模型-LSTM-基础结构-说明
• 069-NLP-传统序列模型-LSTM-缓解梯度消失和爆炸
• 070-NLP-传统序列模型-LSTM-复杂结构
• 071-NLP-传统序列模型-LSTM-API-构造参数
• 072-NLP-传统序列模型-LSTM-API-输入输出
• 073-NLP-传统序列模型-LSTM-案例-概述&思路分析
• 074-NLP-传统序列模型-LSTM-案例-数据处理-说明
• 075-NLP-传统序列模型-LSTM-案例-数据处理-编码-上
• 076-NLP-传统序列模型-LSTM-案例-数据处理-编码-下
• 077-NLP-传统序列模型-LSTM-案例-数据集
• 078-NLP-传统序列模型-LSTM-案例-模型定义
• 079-NLP-传统序列模型-LSTM-案例-模型训练
• 080-NLP-传统序列模型-LSTM-案例-模型预测
• 081-NLP-传统序列模型-LSTM-案例-模型评估
• 082-NLP-传统序列模型-LSTM-存在问题
• 083-NLP-传统序列模型-GRU-基础结构
• 084-NLP-传统序列模型-GRU-复杂结构&API使用说明
• 085-NLP-传统序列模型-GRU-案例实操
• 086-NLP-传统序列模型-LSTM_GRU_RNN横向对比
• 087-NLP-Seq2Seq-概述
• 088-NLP-Seq2Seq-模型结构-编码器
• 089-NLP-Seq2Seq-模型结构-解码器
• 090-NLP-Seq2Seq-模型结构-训练机制
• 091-NLP-Seq2Seq-模型结构-推理机制
• 092-NLP-Seq2Seq-模型结构-案例实操-概述
• 093-NLP-Seq2Seq-模型结构-案例实操-需求分析
• 094-NLP-Seq2Seq-模型结构-案例实操-数据预处理-读取文件
• 095-NLP-Seq2Seq-模型结构-案例实操-数据预处理-改造Tokenizer
• 096-NLP-Seq2Seq-模型结构-案例实操-数据预处理-词表构建
• 097-NLP-Seq2Seq-模型结构-案例实操-数据预处理-构建数据集
• 098-NLP-Seq2Seq-模型结构-案例实操-Dataloader
• 099-NLP-Seq2Seq-模型结构-案例实操-模型定义-编码器
• 100-NLP-Seq2Seq-模型结构-案例实操-模型定义-解码器
• 101-NLP-Seq2Seq-模型结构-案例实操-模型定义-完整模型
• 102-NLP-Seq2Seq-模型结构-案例实操-训练脚本-核心代码
• 103-NLP-Seq2Seq-模型结构-案例实操-训练脚本-pad_token处理逻辑
• 104-NLP-Seq2Seq-案例-预测脚本
• 105-NLP-Seq2Seq-案例-评估脚本-bleu说明
• 106-NLP-Seq2Seq-案例-评估脚本-编码
• 107-NLP-Seq2Seq-总结
• 108-NLP-Attention机制-概述
• 109-NLP-Attention机制-工作原理-概述
• 110-NLP-Attention机制-工作原理-具体步骤
• 111-NLP-Attention机制-注意力评分函数
• 112-NLP-Attention机制-案例-代码升级改造思路
• 113-NLP-Attention机制-案例-注意力机制-实现思路
• 114-NLP-Attention机制-案例-注意力机制-编码
• 115-NLP-Attention机制-案例-注意力机制-训练和预测逻辑修改
• 116-NLP-Transformer-概述
• 117-NLP-Transformer-核心思想
• 118-NLP-Transformer-模型结构-整体结构
• 119-NLP-Transformer-模型结构-编码器-概述
• 120-NLP-Transformer-模型结构-编码器-自注意力子层-生成QKV向量
• 121-NLP-Transformer-模型结构-编码器-自注意力子层-完整计算过程
• 122-NLP-Transformer-模型结构-编码器-自注意力子层-多头注意力
• 123-NLP-Transformer-模型结构-编码器-前馈神经网络层
• 124-NLP-Transformer-模型结构-编码器-残差连接&层归一化-概述
• 125-NLP-Transformer-模型结构-编码器-残差连接-说明
• 126-NLP-Transformer-模型结构-编码器-层归一化
• 127-NLP-Transformer-模型结构-编码器-位置编码
• 128-NLP-Transformer-模型结构-编码器-说明
• 129-NLP-Transformer-模型结构-编码器-小结
• 130-NLP-Transformer-模型结构-解码器-概述
• 131-NLP-Transformer-模型结构-解码器-Mask-Attention
• 132-NLP-Transformer-模型结构-解码器-Cross-Attention
• 133-NLP-Transformer-模型结构-解码器-小结
• 134-NLP-Transformer-实现细节-注意力为什么需要缩放
• 135-NLP-Transformer-实现细节-注意力如何感知相对位置
• 136-NLP-Transformer-模型训练和推理机制
• 137-NLP-Transformer-API-概述
• 138-NLP-Transformer-API-nn.Transformer-构造参数
• 139-NLP-Transformer-API-nn.Transformer-forward方法-概述
• 140-NLP-Transformer-API-nn.Transformer-forward方法-输入输出
• 141-NLP-Transformer-API-nn.Transformer-encoder&decoder
• 142-NLP-Transformer-案例-代码改造思路
• 143-NLP-Transformer-案例-模型定义-基础结构
• 144-NLP-Transformer-案例-模型定义-位置编码-简易实现
• 145-NLP-Transformer-案例-模型定义-位置编码-哈弗实现
• 146-NLP-Transformer-案例-模型定义-前向传播
• 147-NLP-Transformer-案例-训练脚本
• 148-NLP-Transformer-案例-预测&评估脚本
• 149-NLP-Transformer-哈佛版本-核心源码解读
• 150-NLP-预训练模型-概述
• 151-NLP-预训练模型-分类
• 152-NLP-预训练模型-主流模型-GPT-概述
• 153-NLP-预训练模型-主流模型-GPT-模型结构
• 154-NLP-预训练模型-主流模型-GPT-预训练
• 155-NLP-预训练模型-主流模型-GPT-微调
• 156-NLP-预训练模型-主流模型-BERT-概述
• 157-NLP-预训练模型-主流模型-BERT-模型结构
• 158-NLP-预训练模型-主流模型-BERT-微调
• 159-NLP-预训练模型-主流模型-BERT-预训练
• 160-NLP-预训练模型-主流模型-T5-概述&模型结构
• 161-NLP-预训练模型-主流模型-T5-预训练&微调
• 162-NLP-预训练模型-HF-概述
• 163-NLP-预训练模型-HF-模型加载-AutoModel
• 164-NLP-预训练模型-HF-模型加载-AutoModelForXXX
• 165-NLP-预训练模型-HF-模型使用
• 166-NLP-预训练模型-HF-Tokenizer-加载
• 167-NLP-预训练模型-HF-Tokenizer-使用
• 168-NLP-预训练模型-HF-Tokenizer-模型配合使用
• 169-NLP-预训练模型-HF-Datasets-概述
• 170-NLP-预训练模型-HF-Datasets-加载数据集
• 171-NLP-预训练模型-HF-Datasets-查看数据集
• 172-NLP-预训练模型-HF-Datasets-加载在线数据集
• 173-NLP-预训练模型-HF-Datasets-预处理数据集-过滤数据
• 174-NLP-预训练模型-HF-Datasets-预处理数据集-划分数据集
• 175-NLP-预训练模型-HF-Datasets-预处理数据集-map-上
• 176-NLP-预训练模型-HF-Datasets-预处理数据集-map-下
• 177-NLP-预训练模型-HF-Datasets-保存数据集
• 178-NLP-预训练模型-HF-Datasets-集成Dataloader
• 179-NLP-预训练模型-案例-数据预处理-上
• 180-NLP-预训练模型-案例-数据预处理-下
• 181-NLP-预训练模型-案例-Dataloader
• 182-NLP-预训练模型-案例-模型定义
• 183-NLP-预训练模型-案例-模型训练
• 184-NLP-预训练模型-案例-模型推理
• 185-NLP-预训练模型-案例-模型评估
• 186-NLP-预训练模型-案例-测试
• 187-NLP-预训练模型-案例-带任务头的预训练模型