课程是一套紧跟前沿技术、注重工程实践的大语言模型（LLM）全栈开发课程。课程以“理论奠基 → 核心训练 → 实战微调 → 应用部署”为清晰主线，系统性地拆解了从Transformer架构原理到行业级LLM应用落地的完整流程。通过本课程，你将深入掌握大模型训练、微调（SFT）、量化、推理加速以及基于LangChain的应用开发等核心技术，具备独立构建和部署企业级智能问答系统的能力。
核心学习路径
1. 理论奠基：LLM进化与Transformer架构
LLM全景概览：梳理大语言模型的进化路线，理解其“涌现能力”与本质（概率统计），洞察NLP技术的落地方式与行业现状。
Transformer深度解析：深入剖析大模型的核心——Transformer架构。详细讲解编码器与解码器、模型嵌入、前馈网络、残差连接与归一化等关键组件，夯实理论基础。
PyTorch与CUDA基础：学习PyTorch框架基础，理解CUDA并行计算原理，为后续的模型训练与优化打下环境基础。
2. 核心训练：数据艺术与全流程实战
数据工程：深入探讨大模型训练背后的“数据艺术”，掌握无监督预训练与有监督微调（SFT）的数据处理方法。
训练全流程实战：系统学习大模型的训练过程，涵盖预训练、SFT、奖励模型（Reward Model）训练以及PPO（近端策略优化）强化学习阶段。
训练优化技巧：掌握大模型训练中的进阶优化技巧，提升模型收敛速度与效果。
3. 实战微调：行业落地与量化推理
SFT微调实战：在云服务器环境下，手把手演示如何一步步进行SFT微调训练，掌握从环境安装到模型产出的全过程。
行业落地案例：剖析四大行业的微调模型落地案例与技术方案，学习如何实现行业专属的智能问答系统。
模型量化与推理：学习模型量化技术（如GPTQ、GGML），掌握在服务器上进行模型推理与服务部署的方法，解决大模型落地资源消耗大的痛点。
4. 应用开发：LangChain与智能问答
LangChain框架精通：深入掌握大模型应用开发框架LangChain，学习如何结合本地知识库构建问答系统。
项目实战代码：提供丰富的实战代码库，包括ChatGLM2服务部署、语义匹配、向量检索（text2vec）、Triton推理服务器集成等，涵盖从Demo到生产环境的完整代码示例。
课程亮点
全栈闭环，拒绝纸上谈兵：课程不仅讲原理，更覆盖了从数据准备、模型训练、微调、量化到应用开发（LangChain）和服务器部署的全生命周期，培养真正的工程落地能力。
紧跟前沿，技术栈新：内容涵盖SFT、PPO、模型量化、LangChain、Triton Server等当前企业最急需的主流技术栈。
代码驱动，资源丰厚：提供完整的Git项目代码库，包含Jupyter Notebook演示、训练脚本、Docker配置及预训练模型文件，支持学员直接上手复现。
行业导向，就业对接：结合具体的行业问答技术方案，并提供市场需求分析与招聘对接指导，帮助学员明确职业发展方向。
课程目录：
LLM大语言
| 00-开课仪式.mp4
| 01-第一周 LLM的进化路线、领域微调及NLP的应用落地方式.mp4
| 02-第二周 大模型训练与微调研发背后的数据艺术.mp4
| 02-第二周 深入大模型基础理论务实.mp4
| 03-第三周 大模型训练入门与进阶.mp4
| 03-第三周 大语言模型训练和训练优化技巧.mp4
| 04-PyTorch及模型训练基础.mp4
| 04-模型训练流程和 CUDA 原理及并行基础.mp4
| 04-深入学握大模型应用开发框架LangChain.mp4
| 05-环境安装和SFT演示带你在服务器如何一步步微调训练.mp4
| 05-第五周 在云服务器实操模型量化模型推理和服务.mp4
| 05-第五周 大模型训练全流程实战.mp4
| 06-第六周 四大行业微调模型落地案例和技术方案.mp4
| 07-第七周 实现行业问答智能问答技术方案.mp4
| 08-市场需求和招聘对接-1.mp4
| 08-市场需求和招聘对接-BLK.mp4
| 09-增补：LangChain本地知识问答.mp4
|
\—资料
| 01 新加入的同学必看！！！.html
| 02 上课演示的代码（第四周）.html
| 02 前置知识提前学.html
| 03 概览【学习辅导笔记】.html
| 03 课程大纲.html
| 04 LLM 进化路线与现状【学习辅导笔记】.html
| 05 大模型的涌现能力【学习辅导笔记】.html
| 06 大模型本质-概率统计【学习辅导笔记】.html
| 07 训练过程-无监督预训练【学习辅导笔记】.html
| 08 训练过程-有监督预训练【学习辅导笔记】.html
| 09 大模型的核心–transformer 模型【学习辅导笔记】.html
| 10 Transformer–编码和解码器【学习辅导笔记】.html
| 11 Transformer–模型嵌入【学习辅导笔记】.html
| 12 【思考题】transformer 思考题.html
| 13 Transformer-前馈层【学习辅导笔记】.html
| 14 Transformer–残差归一化【学习辅导笔记】.html
| 15 大模型训练过程【学习辅导笔记】.html
| 16 大模型训练-SFT【学习辅导笔记】.html
| 17 大模型训练-Reward【学习辅导笔记】.html
| 18 大模型训练-PPO【学习辅导笔记】.html
| 19 大模型生成原理【学习辅导笔记】.html
|
\—项目git
| 01 llm.zip
| llm-master.zip
|
\—llm
| .gitignore
| install.sh
| README.md
| README_BAK.md
| requirements.txt
|
+—class_8
| \—code
| | chatglm2_6b_server.py
| | duckduckgo_search_chat.py
| | embedding_test.py
| | model_api.py
| | semantic_match.py
| | sim_compute.py
| |
| \—text2vec-base-chinese
| | config.json
| | gitattributes.txt
| | logs.txt
| | modules.json
| | README.md
| | sentence_bert_config.json
| | special_tokens_map.json
| | tokenizer_config.json
| | vocab.txt
| |
| \—1_Pooling
| config.json
|
\—llm_course
| openbayes-intro.ipynb
| playground.ipynb
| requirements.txt
| test2.ipynb
| Untitled.ipynb
| Untitled1.ipynb
|
+—demo
| demo_gradio.py
|
+—introduction
| | cuda_info.ipynb
| |
| +—cuda_case
| | | CMakeLists.txt
| | | demo.py
| | | main.py
| | | Makefile
| | | mmul.py
| | |
| | \—src
| | mmul.cc
| | mmul.cu
| |
| +—pytorch_basic
| | pytorch_autograd.ipynb
| | pytorch_basic_oper.ipynb
| |
| \—training_basic
| scratch.ipynb
|
+—quantize
| ggml.sh
| gptq.py
| gptq_gen.py
|
+—train_optimize
| ds_config_zero2.json
| llm_course.py
| llm_course.sh
| llm_course_dataset.json
|
+—triton_server
| api.py
| client.html
| llm_triton.py
| main.py
| README.md
|
\—trl_version_sft
accelerate_config.yaml
ds_config_zero2.json
imdb.csv
README.md
run.sh
untitled.py
v1.py
v2.py
下载地址：
感谢您的来访，获取更多精彩文章请收藏本站。
