Python自然语言处理-BERT模型实战课程旨在帮助同学们快速掌握当下NLP领域最核心的算法模型BERT的原理构造与应用实例。通俗讲解BERT模型中所涉及的核心知识点（Transformer,self-attention等），基于google开源BERT项目从零开始讲解如何搭建自然语言处理通用框架，通过debug源码详细解读其中每一核心代码模块的功能与作用。最后基于BERT框架进行中文情感分析与命名实体识别等主流项目实战，提供全部课程资料，包括PPT,数据,代码

课程目录

• 资料
• 1-1 BERT课程简介
• 1-10 BERT模型训练方法
• 1-11 训练实例
• 1-2 BERT任务目标概述
• 1-3 传统解决方案遇到的问题
• 1-4 注意力机制的作用
• 1-5 self-attention计算方法
• 1-6 特征分配与softmax机制
• 1-7 Multi-head的作用
• 1-8 位置编码与多层堆叠
• 1-9 transformer整体架构梳理
• 2-1 BERT开源项目简介
• 2-10 构建QKV矩阵
• 2-11 完成Transformer模块构建
• 2-12 训练BERT模型
• 2-2 项目参数配置
• 2-3 数据读取模块
• 2-4 数据预处理模块
• 2-5 tfrecord制作
• 2-6 Embedding层的作用
• 2-7 加入额外编码特征
• 2-8 加入位置编码特征
• 2-9 mask机制
• 3-1 中文分类数据与任务概述
• 3-2 读取处理自己的数据集
• 3-3 训练BERT中文分类模型
• 4-1 命名实体识别数据分析与任务目标
• 4-2 NER标注数据处理与读取
• 4-3 构建BERT与CRF模型
• 5-1 词向量模型通俗解释
• 5-2 模型整体框架
• 5-3 训练数据构建
• 5-4 CBOW与Skip-gram模型
• 5-5 负采样方案
• 6-1 数据与任务流程
• 6-2 数据清洗
• 6-3 batch数据制作
• 6-4 网络训练
• 6-5 可视化展示
• 7-1 RNN网络模型解读
• 7-2 NLP应用领域与任务简介
• 7-3 项目流程解读
• 7-4 加载词向量特征
• 7-5 正负样本数据读取
• 7-6 构建LSTM网络模型
• 7-7 训练与测试效果
• 8-1 数据与任务介绍
• 8-2 整体模型架构
• 8-3 数据-标签-语料库处理
• 8-4 输入样本填充补齐
• 8-5 训练网络模型
• 8-6 医疗数据集（糖尿病）实体识别
• 数据代码.txt