FDE,即前沿部署工程师,关注的不只是模型本身,而是如何让模型能力精准进入业务现场:理解场景、完成接入、组织流程、验证效果,并交付可持续运行的解决方案。
课程围绕企业 AI 项目的一体化工作链路展开。你会从 API 与本地模型出发,构建知识库、智能体和多步骤工作流,完成 Web/API 应用,进一步进入私有部署、微调、评估和生产接入。
Course Overview
FDE,即前沿部署工程师,关注的不只是模型本身,而是如何让模型能力精准进入业务现场:理解场景、完成接入、组织流程、验证效果,并交付可持续运行的解决方案。
课程围绕企业 AI 项目的一体化工作链路展开。你会从 API 与本地模型出发,构建知识库、智能体和多步骤工作流,完成 Web/API 应用,进一步进入私有部署、微调、评估和生产接入。
Delivery Capabilities
不是孤立学习工具,而是把模型、知识、流程、应用和运行环境连接为可交付方案。
掌握聊天、流式、结构化输出与图文能力,按场景接入主流模型服务。
完成文档处理、向量化、混合检索、重排序和质量评估,让回答有据可查。
使用 LangChain 与 LangGraph 组织工具调用、多智能体协作和人工干预节点。
通过 MCP 连接地图、搜索和自定义服务,把智能体能力延伸到业务工具。
以 Streamlit、LangServe 与 FastAPI 构建交互界面、业务接口、认证与服务发布。
结合 Ollama、vLLM、OpenWebUI 和 LLaMA-Factory,让模型可控运行、持续优化。
Eight-Day Path
从模型基础到生产部署,每一天的能力都会在后续项目中继续被使用和验证。
理解模型类型、提示策略、OpenAI 接口、结构化输出与基础智能体。
掌握多模态、工具调用、短长期记忆、中间件与人类干预控制。
构建向量库、完成文档入库与召回,使用混合检索和重排序优化效果。
通过状态、节点、边和子图组织业务流程,支持动态路由和回溯。
接入 MCP 服务,使用 Streamlit、LangServe、FastAPI 交付 Web 与 API 应用。
管理模型、准备推理环境、提供兼容 API,并配置 OpenWebUI 知识库与智能体。
理解 Transformer、LoRA、数据格式和 SFT,启动训练并对比微调前后效果。
完成评估、导出、DPO、量化与服务接入,演示端到端的生产闭环。
Curriculum
每个阶段均以真实可运行成果为导向,逐步把前面的能力接入后面的工程场景。
理解推理模型与指令模型,完成单轮、多轮、流式、JSON 和多模态调用,接入多种模型服务。
实现工具调用、ReAct、短长期记忆、摘要与上下文编辑,并用中间件设置调用上限和人工介入。
完成 PDF/网页加载、清洗、切分、元数据、向量化、召回测试,以及 BM25、重排序和重问优化。
使用 StateGraph、动态边、子图和持久化对话组织复杂流程,构建多智能体协作和人工干预节点。
注册和自建 MCP Server,以 Streamlit 开发 PC/移动端智能体应用,用 FastAPI 与 Token 构建服务接口。
管理 Ollama 模型,使用 vLLM 进行高性能推理和 API 部署,并在 OpenWebUI 配置知识库与工具。
了解 SFT、LoRA、数据集格式、训练参数和模型评估,在 LLaMA-Factory 中完成训练和基础测试。
完成模型导出、INT4/INT8 量化、RLHF/DPO、WebUI 管理,并接入推理服务与智能体工作流。
Who It Is For
希望系统掌握大模型应用开发、智能体工程化和企业项目实施方法。
希望把数据、模型、向量检索与部署环境连接为可管理的 AI 服务能力。
计划在内部建设知识库问答、Agent 助手、业务流程自动化或本地模型服务。
熟悉 Python,了解基础 Web 与 HTTP API 概念;具备 Linux 或应用环境使用经验更佳。
What You Can Do
使用 API、多轮对话、流式和结构化输出搭建可靠的模型调用体验。
完成知识库、检索策略和效果优化,让回答更贴合企业资料与业务语境。
通过工具、记忆、状态和人工介入组织复杂任务与多角色协作。
让智能体和知识库能力以界面、接口、认证和服务形式进入业务系统。
能使用 Ollama、vLLM 和 OpenWebUI 管理模型、推理和企业内部应用。
完成 LoRA、量化、评估、导出和服务接入,形成可演示、可验证的交付闭环。
FDE Delivery Loop
模型、知识、智能体和部署环境必须在同一条链路中被验证,质量、安全与最终发布始终由交付团队掌控。
评估模型类型、接口方式、成本、性能与业务适配度。
实现对话、结构化输出、多模态与基础业务调用。
建设向量库、检索策略与质量评估,让结果有业务依据。
组织工具调用、工作流、状态管理和人类干预。
通过界面、接口、认证与日志,让能力进入真实使用场景。
准备本地模型、推理服务、运行环境和知识库配置。
以数据、LoRA、量化和评估持续提升模型在目标场景中的表现。
完成演示、测试、文档与交接,让方案能够被团队持续使用。
Technology Stack
模型接入、提示、消息、工具、记忆与检索增强应用的开发基础。
多步骤工作流、智能体协作与外部工具服务的标准化连接。
将智能体能力封装为 Web、移动端体验与受控的业务 API。
模型管理、高性能推理、内部使用入口和知识库配置。
LoRA、DPO、量化、评估与模型导出,连接微调成果与生产服务。