东方瑞通教育老师直接接听

400-029-09** 400-029-0997 转 30633
查看完整号码
扫码拨号
微信扫码拨号
录播课+直播课+面授课

大模型本地部署与微调

请咨询 课时 | 任意时段,全日制,白天班,晚班,周六周日 班型 | 小班 上课
零基础教学
随到随学
专业提升班
免费教材
面授教学
课程学费： 一键咨询更多打折优惠课程获取报价
上课校区： 1个 (北京清华校区) 详情
免费预约
权益领取成功，请尽快到机构使用 权益详情可在 [个人中心-我的权益] 中查看
我知道了
课程内容

DeepSeek AI 大模型本地部署与微调

课程亮点

  • 授权机构；官方教材；

  • 配套学习或实验资料丰富；

  • 免费重学；

适用人群

  • 25-40岁

目标收获

DeepSeek AI 大模型本地部署与微调

课程介绍

培训时长：2 天（15 课时）

课程介绍：

随着人工智能技术的飞速发展，大模型成为了推动自然语言处理、图像识别等众

多领域创新的关键。然而，如何高效地在本地环境中部署这些大型模型，并根据

特定需求对其进行微调，成为了企业和研究机构面临的重要挑战。

本课程旨在为学员提供从理论到实践的全面指导，帮助学员掌握大模型的本地部

署与微调技巧，从而能够将先进的 AI 技术应用到实际场景中。

学员基础：

⚫ 具备一定的 Python 编程经验

⚫ 对机器学习或深度学习有基本了解

⚫ 了解常见的深度学习框架（如 TensorFlow、PyTorch）

⚫ 已熟悉大模型相关基本概念

⚫ 对云计算有一定认识，了解虚拟化、容器化等概念

学后收获：

⚫ 理解大模型的特点及其对硬件资源的需求

⚫ 掌握多种大模型如 DeepSeek 的本地部署方法

⚫ 学会使用不同的工具和框架对大模型进行微调

⚫ 了解模型压缩技术，提高模型效率

⚫ 理解大模型的安全治理重要性及其实现方法

⚫ 能够独立完成大模型的部署与微调项目

课程内容：

模块 主要内容

大模型本地部署

 本地部署基础认知

◼ 为什么要进行本地部署

◼ 模型参数量与硬件资源

◆ 模型大小与计算资源的关系

◆ 不同规模模型的适用场景

 环境准备

◼ 必要的软件和库安装

◆ CUDA

◆ Python 虚拟环境

◆ Docker

◆ Pytorch

◆ Git

◼ 开发环境配置

模块 主要内容

 Ollama 快速部署大模型

◼ Ollama 平台介绍

◼ 一键部署流程

◼ 实战练习：使用 Ollama 部署 DeepSeek R1 大模型

 vLLM 生产级部署大模型

◼ vLLM 框架概述

◼ 部署步骤解析

◼ 实战练习：使用 vLLM 部署 DeepSeek R1 大模型

 开源大模型应用开发平台 Dify 本地部署

◼ Dify 平台特性

◼ Dify 适用场景

◼ 实战练习：基于 Dify 集成 DeepSeek

大模型微调

 大模型训练流程回顾

 什么是模型微调

◼ 微调的基本概念

◼ 微调的重要性

模块 主要内容

 微调方法

◼ 全参微调适用场景与风险控制

◼ 主流 PEFT 技术对比（LoRA/QLoRA/Adapter/P-Tuning）

 微调工具

◼ 流行的微调工具介绍

◆ Transformers

◆ MS-Swift

◆ Deep-Speed

◆ LLaMA-Factory

◼ 工具的选择与使用

 数据工程体系

 模型压缩（量化）

 模型蒸馏

◼ 模型蒸馏的基本原理

◼ 模型蒸馏的应用场景

◼ DeepSeek 模型蒸馏的实现过程解析

模块 主要内容

◼ 实战：DeepSeek 模型蒸馏实践

 大模型安全治理

◼ 为什么要进行安全治理

◼ RLHF 技术全景（PPO/DPO/CPO）

 微调模型评估

 实战

◼ 基于 Llama Factory 微调一个法律大模型

◼ 基于 DeepSpeed 大模型并行训练框架 LoRA 微调实践

◼ 基于 ms-swift LoRA 微调 Qwe*****1.5B 实践

课后赠送拓展课程（录播）

⚫ 《Linux 快速入门》

⚫ 《Docker 快速入门》

⚫ 《华为昇腾硬件部署与微调大模型》

⚫ 《基于 ComfyUI 本地部署 DeepSeek 开源多模态模型 Janus-Pro》

添加微信咨询
冯老师 @东方瑞通教育

东方瑞通,IT职业认证+终身学习培训服务

微信号：150******60

立即咨询

校区

学员评价

  • 史

    史*辉136****8718

    2024/11/29 报名课程：红帽RHCE认证及实战课程

    环境5师资5服务5效果5

    课程实用性强，让我的学习收获很大。老师讲解耐心仔细，专业水平高，我对此课程非常满意。

您可能还关注

看了此课程的学员还看了

    「东方瑞通教育」是东方瑞通（北京）咨询服务有限公司在教育宝平台开设的店铺，若该店铺内信息涉嫌虚假或违法，请点击这里向教育宝反馈，我们将及时进行处理。

    机构评分

    环境：5.0师资：5.0服务：5.0效果：5.0

    公示信息

    店铺名称：东方瑞通教育

    单位名称：东方瑞通（北京）咨询服务有限公司

    账号名称：dfrt（150******60）

    所属城市：北京

    入驻时长：2年会员

    联系电话：400-029-0997 转 30633

    相关课程

    微信咨询

    返回顶部