课程目录

• 01大模型（LLMs）基础面
• 01大模型（LLMs）基础面[]
• 02Layer normalization 篇[]
• 03LLMs 激活函数篇[]
• 04Attention 升级面[]
• 05transformers 操作篇[]
• 06LLMs 损失函数篇[]
• 07相似度函数篇[]
• 02大模型（LLMs）进阶面
• 大模型（LLMs）进阶面[]
• 03大模型（LLMs）微调面
• 1大模型（LLMs）微调面[]
• 2大模型 SFT Trick 篇[]
• 3LLMs 训练经验帖[]
• 04大模型（LLMs）langchain 面
• 1大模型（LLMs）langchain 面[]
• 2多轮对话中让AI保持长期记忆的8种优化方式篇[]
• 3基于langchain RAG问答应用实战[]
• 05大模型 RAG 经验面
• 10大模型（LLMs）RAG 优化策略 —— RAG-Fusion篇[]
• 11Graph RAG 面 — 一种 基于知识图谱的大模型检索增强实现策略[]
• 1大模型 RAG 经验面[]
• 2LLM文档对话 —— pdf解析关键问题[]
• 3大模型（LLMs）RAG 版面分析——表格识别方法篇[]
• 4大模型（LLMs）RAG 版面分析——文本分块面[]
• 5大模型外挂知识库优化——如何利用大模型辅助召回？[]
• 6大模型外挂知识库优化——负样本样本挖掘篇[]
• 7RAG（Retrieval-Augmented Generation）评测面[]
• 8检索增强生成(RAG) 优化策略篇[]
• 9大模型（LLMs）RAG —— 关键痛点及对应解决方案[]
• 06大模型（LLMs）参数高效微调(PEFT) 面
• 1大模型（LLMs）参数高效微调(PEFT) 面[]
• 2适配器微调（Adapter-tuning）篇[]
• 3提示学习（Prompting）篇[]
• 4LoRA 系列常见面试题篇[]
• 5如何使用 PEFT库 中 LoRA？[]
• 6大模型 SFT 方式对比篇[]
• 07大模型（LLMs）推理面
• 大模型（LLMs）推理面[]
• 08大模型（LLMs）增量预训练篇
• 1大模型（LLMs）增量预训练篇[]
• 2大模型（LLMs）推理加速篇[]
• 3增量预训练（Pretrain）样本拼接篇[]
• 4基于lora的llama2二次预训练[]
• 09大模型（LLMs）评测面
• 大模型（LLMs）评测面[]
• 10大模型（LLMs）强化学习面
• 1大模型（LLMs）强化学习面[]
• 2大模型（LLMs）强化学习——RLHF及其变种面[]
• 3大模型（LLMs）强化学习—— PPO 面[]
• 4RLHF平替算法DPO篇[]
• 5强化学习在自然语言处理下的应用篇[]
• 11大模型（LLMs）训练集面
• 1大模型（LLMs）训练集面[]
• 2大模型（LLMs）LLM生成SFT数据方法面[]
• 12大模型（LLMs）显存问题面
• 1大模型（LLMs）显存问题面[]
• 2显存优化策略篇[]
• 13大模型（LLMs）分布式训练面
• 10大模型分布式训练故障恢复篇[]
• 11pytorch 分布式计算 坑_bug 梳理篇[]
• 1大模型（LLMs）分布式训练面[]
• 2图解分布式训练（一） —— 流水线并行（Pipeline Parallelism）[]
• 3图解分布式训练（二） —— nn.DataParallel篇[]
• 4图解分布式训练（三） —— nn.parallel.DistributedDataParallel[]
• 5图解分布式训练（四） —— torch.multiprocessing 详细解析[]
• 6图解分布式训练（五） —— AMP混合精度训练 详细解析[]
• 7图解分布式训练（六）—— Pytorch的 DeepSpeed 详细解析[]
• 8图解分布式训练（七）—— accelerate 分布式训练 详细解析[]
• 9图解分布式训练（八）—— ZeRO 学习[]
• 14大模型（LLMs）agent 面
• 1大模型（LLMs）agent 面[]
• 2AI Agent 面 —— 函数调用 Function Call 篇[]
• 15LLMs 位置编码篇
• LLMs 位置编码篇[]
• 16LLMs Tokenizer 常见面试篇
• 1LLMs Tokenizer 常见面试篇[]
• 2怎么让英文大语言模型支持中文？（一） —— 构建中文tokenization[]
• 3怎么让英文大语言模型支持中文？（二） —— 继续预训练篇[]
• 4怎么让英文大语言模型支持中文？（三） —— 对预训练模型进行指令微调[]
• 17大模型(LLM)部署框架对比篇
• 1大模型(LLM)部署框架对比篇[]
• 2大模型（LLMs）加速篇[]
• 3LLMs 推理性能面[]
• 4LLM（大语言模型）部署加速方法——PagedAttention篇[]
• 5大模型推理加速工具 —— vLLM[]
• 6LLM（大语言模型）部署加速方法——Faster Transformer篇[]
• 7纯Python超轻量高性能LLM推理框架 —— LightLLM[]
• 8LLM推理技术之StreamingLLM：如何拥有无限长生成能力[]
• 9SwiftInfer —— 大模型无限流式输入推理飙升46%，打破多轮对话长度限制[]
• 18大模型幻觉（LLM Hallucination）面
• 1大模型幻觉（LLM Hallucination）面[]
• 2大模型的幻觉问题篇[]
• 3如何缓解大模型幻觉？[]
• 19LLMs 对比篇
• 1LLMs 对比篇[]
• 2大模型-attention mask 篇[]
• 3百川智能baichuan7B、13B、53B、baichuan2 总结篇[]
• 4LLaMA 常见面试题篇[]
• 5GPT 经验篇[]
• 20思维链 Chain-of-Thought（COT）篇
• 1思维链 Chain-of-Thought（COT）篇[]
• 2思维链 Chain-of-Thought（COT）变体篇[]
• 3小样本提示学习篇[]
• 21LLMs 测试集 中 数据泄露 问题篇
• LLMs 测试集 中 数据泄露 问题篇[]
• 22MOE（Mixture-of-Experts）篇
• 1MOE（Mixture-of-Experts）篇[]
• 2MOE大模型对比篇[]
• 23大模型蒸馏篇
• 1大模型蒸馏篇[]
• 2LLMs 浮点数篇[]
• 3自定义 CUDA 函数的轻量级包装器 —— bitsandbytes篇[]
• 24大模型（LLMs）软硬件配置面
• 大模型（LLMs）软硬件配置面[]
• 25Token及模型参数准备篇
• Token及模型参数准备篇[]
• 26多模态常见面试篇
• 多模态常见面试篇[]
• 27NLP常见面试篇
• 1NLP Trick 篇[]
• 2文本分类常见面试篇[]
• 3文本摘要常见面试篇[]
• 4命名实体识别常见面试篇[]
• 5向量检索常见面试篇[]
• 28其他常见面试篇
• LLMs 其他 Trick[]
• 29大模型推理加速——KV Cache篇
• 大模型推理加速——KV Cache篇[]
• 30大模型——角色扮演大模型篇
• 大模型——角色扮演大模型篇[]
• LLMs 目录[]