极客时间-AI大模型微调训练营第0期[完结]-IT技术资源教程免费分享平台

课程是一套专为希望系统掌握大语言模型微调技术与应用开发的开发者量身打造的实战课程。课程以”开营导学（RAG/微调/预训练选型）→大模型四阶技术总览→大语言模型技术发展与演进→微调技术揭秘（PEFT/LoRA）→开发工具链（HF Transformers）→实战模型微调→实战模型量化→HF PEFT 高效微调工具→QLoRA 微调 ChatGLM3-6B→LangChain 快速入门→LangChain+ChatGLM 私有化聊天机器人→私有数据微调 ChatGLM3→RLHF 人类反馈强化学习→混合专家模型 MoE→Microsoft DeepSpeed 分布式训练→Meta LLaMA 大模型家族”为核心路径，系统性地串联起从大模型技术全景认知、参数高效微调（PEFT）与低秩适配（LoRA）的核心原理与论文精读，到 HuggingFace Transformers 开发工具链的深度使用、模型微调与量化的完整实战流程，再到 QLoRA 量化低秩适配微调 ChatGLM3-6B 的全链路实战，以及 LangChain 大模型应用开发框架（Chain/Agent/Memory/Tool）与基于 LangChain+ChatGLM 的私有化部署聊天机器人项目，私有数据微调 ChatGLM3 的企业级实践，ChatGPT 背后的 RLHF（Reward Model/PPO/人类反馈强化学习）训练技术深度剖析，混合专家模型 MoE（Mixture of Experts）的架构原理与前沿论文解读，Microsoft DeepSpeed 分布式训练框架（ZeRO 优化/显存优化/多卡并行），最终到 Meta AI LLaMA 大模型家族（LLaMA 1/2/3 架构原理/论文精读/开源生态）的完整大模型微调与应用开发知识体系。配套大厂案例 PPT（360/京东/大疆/快手/百度/腾讯/阿里等）、课程源码与论文资料，助你从零成长为能独立完成大模型微调与应用落地的 AI 工程师。
核心学习路径
1. 开营导学与前沿认知（第0-1章）
开营直播：系统梳理 RAG（检索增强生成）、微调（Fine-tuning）、预训练（Pre-training）三种大模型优化方式的适用场景与选择策略，配套 360、京东物流、大疆、快手、百度文心、腾讯、阿里等大厂技术案例 PPT，建立对大模型工程化落地的全局视野。
大语言模型微调的前沿技术与应用：深入了解大模型微调技术的发展脉络、核心挑战与前沿应用方向，为后续学习建立清晰的技术路线图。
2. 大模型技术总览与演进（第2-3章）
大模型四阶技术总览：从全局视角梳理大语言模型的四阶技术体系（预训练/微调/对齐/推理优化），建立完整的技术认知框架。
大语言模型技术发展与演进：系统学习从 GPT/BERT 到 GPT-3/4、LLaMA、ChatGLM 等大模型的技术演进历程，理解 Transformer 架构的核心创新与各代模型的关键突破，配套经典论文精读。
3. 微调核心技术——PEFT 与 LoRA（第4-5章）
大模型微调技术揭秘——PEFT（参数高效微调）：深入学习参数高效微调（Parameter-Efficient Fine-Tuning）的核心思想与主流方法（Adapter/Prefix-Tuning/P-Tuning/LoRA），理解为何微调少量参数即可达到全量微调效果，配套 Fine-tuning 论文精读。
大模型微调技术揭秘——LoRA（低秩适配）：深入掌握 LoRA（Low-Rank Adaptation）的数学原理（低秩矩阵分解/秩的选择/权重合并机制），理解 LoRA 相比其他 PEFT 方法的优势，学习 UniPELT 统一框架，配套论文深度解读。
4. 开发工具链与实战（第6-8章）
大模型开发工具库——HF Transformers：系统学习 HuggingFace Transformers 库的核心架构（Model/Tokenizer/Dataset/Trainer Pipeline），掌握模型加载、推理、训练等核心 API 的使用方法。
实战 Transformers 模型微调：动手完成一个完整的 Transformers 模型微调项目，从数据准备、模型加载、超参配置、训练循环到模型评估与保存，全流程实战。
实战 Transformers 模型量化：学习模型量化技术（INT8/INT4/GPTQ/AWQ），动手完成模型量化实战，理解量化对模型精度与推理速度的影响，配套量化论文精读。
5. 高效微调工具与 ChatGLM3 实战（第9-10章）
大模型高效微调工具——HF PEFT：深入学习 HuggingFace PEFT 库的使用，掌握 LoRA/Prefix-Tuning/P-Tuning 等微调方法的配置与训练流程，学会用 PEFT 库快速实现参数高效微调。
实战 QLoRA 微调 ChatGLM3-6B：综合运用量化（Quantization）+ LoRA 技术，实战 QLoRA 微调 ChatGLM3-6B 模型。学习 QLoRA 的核心创新（4-bit NormalFloat 量化/双重量化/分页优化器），在有限显存条件下完成大模型微调，配套 GLM 论文精读。
6. LangChain 应用开发（第11-12章）
快速入门 LangChain：系统学习 LangChain 大模型应用开发框架的核心概念与组件（Models/Prompts/Chains/Memory/Agents/Tools），掌握如何用 LangChain 快速构建基于大模型的智能应用。
实战基于 LangChain 和 ChatGLM 私有化部署聊天机器人：将 LangChain 与 ChatGLM 结合，实战开发一个私有化部署的聊天机器人，涵盖模型部署、LangChain 集成、对话管理、知识库接入等完整流程。
7. 私有数据微调实战（第13章）
实战私有数据微调 ChatGLM3：学习如何基于企业私有数据对 ChatGLM3 进行微调，掌握数据准备与清洗、训练数据格式化、微调策略选择、效果评估与调优等企业级微调全流程，解决大模型在垂直领域的知识注入问题。
8. 前沿技术深度专题（第14-17章）
ChatGPT 大模型训练技术 RLHF：深入剖析 ChatGPT 背后的核心技术——人类反馈强化学习（RLHF），学习奖励模型（Reward Model）训练、PPO（Proximal Policy Optimization）策略优化、人类偏好对齐的完整流程，理解大模型如何从”能说”到”说得好”。
混合专家模型 MoE 技术揭秘：深入学习 MoE（Mixture of Experts）架构原理，了解稀疏激活、专家路由、负载均衡等核心技术，理解 MoE 如何在不显著增加计算量的前提下扩大模型参数规模，配套 MoE 论文精读。
大模型分布式训练框架——Microsoft DeepSpeed：学习 Microsoft DeepSpeed 分布式训练框架的核心技术，深入 ZeRO（Zero Redundancy Optimizer）优化原理（ZeRO-1/2/3 阶段划分/显存优化策略），掌握多卡并行训练的配置与使用，解决大模型训练的显存瓶颈问题，配套 ZeRO 论文精读。
Meta AI 大模型家族 LLaMA：系统学习 Meta AI 开源的 LLaMA 大模型家族（LLaMA 1/2/3），深入理解其架构设计、训练数据、性能表现与开源生态，掌握 LLaMA 系列模型的使用与微调方法，配套 LLaMA 论文与大语言模型综述论文精读。
课程亮点
微调技术全链路覆盖：从 PEFT 思想到 LoRA 原理到 QLoRA 量化微调，逐层深入参数高效微调的每一个核心技术，建立完整的微调知识体系。
原理与实战并重：每个技术模块均配套论文精读 + 代码实战，不仅理解”为什么”，更掌握”怎么做”。
ChatGLM3 全流程实战：从 QLoRA 微调到私有数据微调，再到 LangChain 私有化部署聊天机器人，完整覆盖 ChatGLM3 的企业级应用落地路径。
LangChain 应用开发：系统学习 LangChain 框架，掌握大模型应用开发的核心范式，快速构建智能对话、知识库等应用。
前沿技术深度解读：RLHF（ChatGPT 核心技术）、MoE（混合专家模型）、DeepSpeed（分布式训练）、LLaMA（开源大模型），紧跟大模型技术最前沿。
大厂案例加持：配套 360、京东物流、大疆、快手、百度文心、腾讯、阿里等大厂技术案例 PPT，了解大模型在企业中的真实落地实践。
论文精读贯穿全程：GLM/LoRA/QLoRA/MoE/ZeRO/LLaMA 等核心论文逐一精读，培养从论文到代码的工程化能力。
模型量化专题：系统学习模型量化技术，解决大模型在有限硬件资源下的部署与推理问题。

下载地址：

此处内容已隐藏，请付费后查看

------本页内容已结束，喜欢请分享------

感谢您的来访，获取更多精彩文章请收藏本站。

1、本内容转载于网络，版权归原作者所有！ 2、本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。 3、本内容若侵犯到你的版权利益，请联系我们，会尽快给予删除处理！ 4、本站全资源仅供测试和学习，请勿用于非法操作，一切后果与本站无关。 5、如遇到充值付费环节课程或软件请马上删除退出涉及自身权益/利益需要投资的一律不要相信，访客发现请向客服举报。 6、本教程仅供揭秘请勿用于非法违规操作否则和作者官网无关

THE END

ai IT课程