AIGC大模型部署实践

培训费用:

培训周期:24 课时

在线咨询

课程大纲


培训天数:3天/24课时  


课程介绍:

本课程面向Python初学者、或者对大语言模型有初步了解的学员,全面介绍大型语言模型主流架构和开发技术框架。参训者将学习掌握大型语言模型的核心技术和原理,快速理解、开发、部署私有化大语言模型应用程序。 


培训对象:

具有开发经验的企业开发人员与维护人员。


预备知识:

具备一定的Linux运维和Python基本语法的了解。

具有一定的python数据分析能力


培训特色:

理论与实践相结合、案例分析与行业应用穿插进行

专业精彩内容解析、学员专题讨论、分组研究

通过全面知识理解、专题技能掌握和实践增强的授课方式

全程案例驱动,少量理论与大量案例教学


培训目标: 

帮助有一定Python语言开发经验的人员学习大型语言模型开发中的关键技术,全面了解其技术特点,深入理解大型语言模型的技术原理。通过结合开源和闭源的大语言模型,搭建企业私有知识库和对话机器人场景,挖掘企业内部数据价值。


课程大纲:

第一天

1、 大语言模型基本概念介绍

2、 大语言模型发展现状

3、 ChatGPT、ChatGLM、LLAMA、Claude模型对比

4、 大模型输出技术手段之提示词工程

5、 One-shot 提示法的原理与实践

6、 Few-shot 提示法的策略与应用

7、 Zero-shot-CoT(Chain of Thought)的介绍与实例

8、 Few-shot-CoT 的高级应用与案例分析

9、 Least-to-Most Prompting 方法的概述

10、 多段提示流程的设计与执行


第二天

1、 Langchain 框架的基本概念和功能,以及它在大型语言模型应用中的地位

2、 Langchain的聊天模型接口,包括处理不同类型的消息

3、 Langchain 中构建输入提示(Prompts),包括标准提示模板和聊天提示模板的创建和格式化

4、 解释Langchain文本嵌入模型的作用,以及如何生成文本输入的数值表示

5、 使用 Langchain 的输出解析器将语言模型生成的响应结构化

6、 使用 Langchain 的链功能,包括简单 LLM 链、顺序链和自定义链

7、 通过实际编码和案例演示,加深对 Langchain 功能的理解和应用

8、 基于Langchain框架和Claude模型搭建问答机器人

9、 部署文本嵌入模型并进行文本向量化

10、 部署向量数据库存储向量化数据

11、 通过RAG(Retrieval-Augmented Generation)构建企业私有知识库

12、 通过MaxKB快速部署知识库前端UI界面

13、 基于Langchain框架实现大模型Agent


第三天

1、 ChatGLM概述,和其他大语言模型对比

2、 HuggingFace ChatGLM2-6b开源大模型部署实战

3、 ChatGLM的技术细节,包括参数规模、训练数据集和优化方法

4、 基于ChatGLM和Langchain搭建问答应用

5、 基于ChatGLM和Langchain搭建企业私有知识库

6、 企业级私有知识库在真实业务场景中的应用案例分享