课程介绍
大模型技术日新月异，本课程专为希望从理论走向实战、从算法走向工程化的学习者打造。课程以“企业级应用”为核心，覆盖HuggingFace生态、主流模型微调、RAG检索增强生成、智能体构建、多模态应用等全链路技术，帮助学员在真实业务场景中快速落地大模型解决方案。
课程目录
课程内容概览
本课程共28个模块，从基础组件到高级应用，层层递进，全程实战：
基础与核心框架
– HuggingFace核心组件详解(Transformers、Datasets、Tokenizers)
– 基于Bert的中文情感分析(训练+实现)
– GPT2中文生成模型定制化(训练+部署)
本地部署与推理优化
– Ollama、vLLM、LMDeploy私有化部署实战
– 分布式推理与量化部署技术(GGUF转换、vLLM性能调优)
高效微调与分布式训练
– LLama Factory微调Qwen系列(自定义数据集、QLoRA、GGUF转换)
– 微调效果不一致问题排查与解决
– Xtuner分布式微调大模型
– 知识蒸馏压缩训练
评估与测试
– OpenCompass大模型评估框架，量化模型性能
RAG检索增强生成
– LlamaIndex快速构建RAG(Embedding模型、Chroma向量库)
– 文档切分与重排序优化
– Dify实现RAG、RAGFlow企业级RAG平台
– 项目实战：基于RAG的法律条文智能助手(方案设计、实现部署、微调优化)
Agent智能体开发
– Dify构建Agent工作流
– LangGraph构建多智能体协作系统
– DeepSeek原理与应用(结合最新模型特性)
前沿拓展
– 多模态大模型应用(图像、文本融合)
课程特色
– 企业级实战导向：涵盖法律助手、情绪对话等真实项目，从数据工程到部署上线全流程演练。
– 主流框架全覆盖：HuggingFace、LlamaFactory、vLLM、Dify、LangGraph、OpenCompass等，紧跟工业界最佳实践。
– 技术深度与广度兼备：不仅会使用，更深入原理(如知识蒸馏、分布式训练、量化部署)，提升问题排查能力。
– 2025年最新技术：融入DeepSeek、多模态等热点，保持课程前沿性。
适合人群
– 希望转型大模型方向的算法工程师、开发人员
– 需要在企业内部落地RAG/Agent应用的技术负责人
– 对微调、部署、优化有深度需求的AI从业者
– 计算机相关专业学生，希望快速进入大模型赛道
学习收益
– 独立完成从数据准备、模型微调到私有化部署的全流程
– 掌握RAG系统优化技巧(切分、重排序、Embedding调优)
– 具备构建多智能体协作系统的能力
– 熟悉大模型评估方法，能客观衡量模型效果
– 获得可复用的项目代码与经验，直接应用于工作场景
001开班典礼
01-HuggingFace核心组件介绍
02-基于Bert的中文评价情感分析(训练篇)
03-基于Bert的中文评价情感分析(实现篇)
04-GPT2-中文生成模型定制化(训练篇)
05-GPT2-中文生成模型定制化
06-本地私有化部署大模型(Ollama&vLLM&LMDeploy
07-大模型微调(使用LLama Factory微调Qwen)
08-大模型微调(LLama Factory自定义微调数据集)
09-大模型微调(QLora微调&GGUF模型转换)
10-大模型微调(LLamaFactory微调效果与vllm部署效果不一致如何解决)
11-大模型微调分布式训练(LLama Factory与Xtuner分布式微调大模型)
12-大模型压缩训练(知识蒸馏)
13-大模型推理部署(分布式推理与量化部署)
14-大模型评估测试(OpenCompass)
15-大模型微调项目实战(情绪对话模型-数据工程篇)
16-大模型微调项目实战(情绪对话模型-最终效果)
17-Llamaindex快速构建RAG
18-Llama_indexRAG进阶_Embedding_model与Chroma
19-Llama_indexRAG进阶_文档切分与重排序
20-Dify实现RAG
21-RAGFlow
22-基于RAG的法律条文智能助手(方案篇)
23-基于RAG的法律条文智能助手-实现与部署
24-基于RAG的法律条文智能助手-微调与部署
25-Dify构建Agent
26-LangGraph构建多智能体
27-DeepSeek原理与应用
28-多模态大模型应用
