AI大模型工程化项目实战
Mace Liu 查看讲师
百林哲咨询(北京)有限公司专家团队成员
中国科学技术大学人工智能硕士,十余年的企业软件架构开发经验
浏览:58次
详情 DETAILS

课程简介

在当今数字化浪潮席卷全球的时代,AI 技术正以前所未有的速度重塑各个行业格局,大模型作为 AI 领域的核心驱动力,展现出巨大的应用潜力与商业价值。从科技巨头纷纷布局大模型研发,到众多企业积极探索大模型在企业运营、产品创新等方面的落地应用,AI 大模型已成为推动企业数字化转型、提升竞争力的关键要素。然而,大模型从理论研究到实际工程化落地,面临着诸多挑战,如工程化原理复杂、落地场景难挖掘、系统架构搭建困难、模型微调与部署要求高等。

本课程聚焦AI大模型工程化项目实战,从AI产品思维与企业应用落地指南切入,剖析落地难题与实战方法。涵盖大模型落地准备、部署应用、Prompt Engineering高阶技巧等内容。深入讲解DeepSeek和LangChain开发应用,包括构建企业级RAG知识库、开发Agent智能体。还涉及大模型原理、部署与微调。通过丰富案例与实战项目,让学员全面掌握AI大模型工程化技能。

课程收益

1、帮助学员掌握工程化技能:系统掌握AI大模型工程化全流程,包括项目规划、开发、部署等环节。

2、帮助学员提升实战能力:通过大量实战案例,具备独立开发基于DeepSeek和LangChain的AI应用的能力。

3、紧跟技术前沿:帮助学员了解AI大模型最新技术趋势,如多模态应用、多智能体协作等。

受众人群

各类软件企业和研发中心的程序员、软件设计师、架构师, 项目经理,架构师。

本课程面向零基础LLM应用开发者,不需要了解复杂数学算法,机器学习原理,不需要之前学习过大模型知识。有Java,C#,C++等编程基础,最好有Python基础知识

课程周期

  2天(12H 

课程大纲

标题

授课内容

一、AI产品思维和企业AI应用落地指南

第一部分: AI企业落地案例与AI产品思维

1.深入理解AI和应用

2.深入理解AI产品思维

3.AI产品产业化和标准化

4.AI产品落地的价值与难题

5.所有应用都值得被大模型重构一遍!-百度李彦宏

6.AI 2.0彻底改变社会:所有应用都可以被重写一次--李开复

7.微软发布全新AI PC,有哪些启发

8.苹果 pad math notes的AI应用分析

9.AI企业落地场景分析

 

第二部分: 破解AI落地难题的实战指南

1.AI大模型的工程化原理

2.AI大模型工程化的背景

3.AI大模型工程化的核心

4.AI大模型工程化的建设思路

5.AI大模型工程化业务流程

6.AI大模型工程化系统架构

7. 工程化的技术筹备

8.AI大模型工程化调研评估

9.大模型应用框架

10.AI大模型工程化提示词工程

11.AI大模型工程化开发环境的准备

12.AI大模型工程化工程化的建设要点

13.AI大模型工程化的安全策略

 

第三部分: AI大模型的工程化落地项目规划

1.项目需求分析

2.大模型落地全流程

3.数据准备及基础大模型构建

4.向量数据库构建

5.大模型与企业应用无缝衔接

6.AI大模型的工程-RAG落地

7.AI大模型的工程化-大模型集成

8.AI大模型的工程化-智能体设计与开发

9.AI大模型的工程化-微调大模型

10.AI大模型的工程化-标记数据集

11.AI大模型的工程化-加载预训练模型

12.AI大模型的工程化-模型评估

13.AI大模型的工程化-工程化部署

14.AI大模型的工程化-部署测试与上线

15.AI大模型的工程化效果评估与数据反馈闭环

 

第四部分: AI大模型的工程化落地案例

1.某电子制造企业基座大模型的开发与部署

2.某银行基于大模型的“智慧大脑”

3.某工厂大语言模型驱动的知识中台建设背景与规划

4.某工厂基于专有大模型与AIGC技术的智能质量知识创新平台

5.某电厂基于大语言模型的充电桩管理知识助手

6.某新能源电池企业基于大模型的售后供应链管理与优化系统

7.某国产汽车制造企业基于大模型的办公超自动化平台

8.某保险公司基于多模态大模型的办公助手

二、大模型落地实战

第一部分: 大模型落地准备规划

1.企业大模型应用落地的常见形式

2.员工个人办公提效

3.大模型与企业数字化系统相集成

4.用AI原生方式重构企业数字化系统

5.大模型嵌入物联网设备

6.大模型催生新的超级个体形态

7.大模型现有的能力边界

8.大模型现有的能力边界与瓶颈

9.大模型未来提升方向

10.大模型落地的推荐要素

11.数据,算力,模型,人才

12.全面梳理公司已有的业务链条,寻找AI落地场景

13.选取产品与AI的创新结合点

14.用AI替代低效重复的业务环节

15.对标同行业或跨行业友商的AI方案

16.案例分析

 

第二部分: 企业如何部署和应用大模型

1.大模型的三种建设路径

2.建设路径一:基于商用大模型的应用开发

3.建设路径二:基于开源通用大模型的微调优化

4.建设路径三:从零开始构建完整大模型

5.企业选择建设路径的影响因素

6.大模型的选型标准

7.大模型基础信息评估

8.大模型性能评估

9.大模型备案信息评估

10.大模型的六类应用模式

 

第三部分: Prompt Engineering 高阶技巧

1.思维链(Chain of Thought, CoT):

2.引导模型逐步推理反思机制(Self-Reflection):

3.让模型自己评估输出质量

4.提示模板设计(Prompt Templates):Jinja2、LangChain Template

5.支持外部工具调用提示设计(Tool Calling Prompt)

6.动态 Prompt 生成:根据用户输入动态构造 Prompt

 

第四部分: 基于多模态大模型的企业应用案例

1.多模态大模型基本概念

2.多模态GPT多模态应用场景分析

3.OpenAI多模态API解析

4.多模态大模型核心技术

5.多模态提示模板工程

6.多模态思维链

7.多模态基础模型

8.多模态大模型的应用案例

9.视觉问答应用案例

10.图像问答应用案例

11.某企业多模态案例

三、DeepSeek和LangChain开发应用

第一部分: ⼤模型应⽤开发框架 LangChain

1.⼤模型应⽤开发框架 LangChain

2.LangChain基本原理与开发流程

3.LangChain的核心组件:理解任务链与内存模块

4.LangChain开发流程概述

5.为什么需要 LangChain

6.LangChain 典型使⽤场景

7.LangChain 基础概念与模块化设计

8.LangChain 核⼼模块⼊⻔与实战

9.LangChain 的3 个场景

10.LangChain 的6 大模块

11.LangChain 的开发流程

12.创建基于LangChain聊天机器人

 

第二部分: LangChain核心组件-模型、模型类与缓存

1.构建复杂LangChain应⽤

2.模型的定义与应用

3.语言模型的工作原理

4.Chat类、LLM类模型简介

5.完成基本文本生成任务

6.自定义LangChain Model类

7.模型参数的自定义与调优

8.LangChain与缓存

9.使⽤大模型构建文档问答系统

 

第三部分: LangChain核心组件-:链 和记忆

1.LLM链

2.LLM链的基本工作流程和参数设置

3.如何在LLM链中嵌入提示词模板和预处理逻辑

4.序列链

5.路由链

6.文档链

7.聊天消息记忆

8.会话缓冲区与会话缓冲窗口

9.会话摘要与支持向量存储

10.LangChain与表达式语言

11. LCEL初探与流式支持

12.LCEL并行执行优化

13.回退机制的设计与实现

LCEL与LangSmith集成

四、DeepSeek构建企业级RAG知识库

第一部分: DeepSeek大模型企业RAG应用

1.RAG技术概述

2.加载器和分割器

3.文本嵌入和 向量存储

4.检索器和多文档联合检索

5.RAG技术的关键挑战

6.检索增强生成实践

7.RAG技术文档预处理过程

8.RAG技术文档检索过程

 

第二部分: 构建基于DeepSeek RAG:实现检索增强生成

1.何谓检索增强生成

2.提示工程、RAG与微调

3.从技术角度看检索部分的Pipeline

4.从用户角度看RAG流程

5.RAG和Agent

6.通过Llamalndex的ReAct RAG Agent实现检索

7.获取井加载电商的财报文件

8.将财报文件的数据转换为向量数据

9.构建查询引擎和工具

10.配置文本生成引擎大模型

11.创建Agent以查询信息

 

第三部分: RAG实战案例-企业文档问答系统

1.企业文档问答需求分析与系统设计

2.确定问答系统的需求:识别用户的主要查询类型与目标

3.系统结构与模块划分:明确检索与生成模块的协作方式

4. 搭建向量数据库与检索模块

5.数据预处理与向量化:生成高效的嵌入向量

6.构建与优化索引:提升检索模块的查询速度

7.生成模块的集成与模型调优

8.加载与配置生成模型:选择适合问答系统的生成模型

9.模型优化与提示词调优:提高生成内容的准确性与相关性

10.RAG系统测试、部署与优化

11.测试流程与性能监控:确保系统的稳定性与响应速度

企业环境的部署与上线:实现系统在实际业务中的应用

五、基于DeepSeek开发Agent智能体

第一部分:DeepSeek大模型驱动的Agent智能体开发概述

1.智能体的定义与特点

2.智能体与传统软件的关系

3.智能体与LLM的关系

4.从ChatGPT到智能体

5.智能体的五种能力

6.记忆,规划,工具,自主决策,推理

7.多智能体协作

8.企业级智能体应用与任务规划

9.智能体开发

 

第二部分: 基于Deepseek和LangChain构建Agent

1.通过LangChain中的ReAct框架实现自动定价

2.LangChain ReAct框架

3.LangChain中ReAct Agent 的实现

4.LangChain中的工具和工具包

5.通过create_react_agent创建Agent

6.深挖AgentExecutor的运行机制

7.Plan-and-Solve策略的提出

8.LangChain中的Plan-and-Execute Agent

9.通过Plan-and-Execute Agent实现物流管理

10.为Agent定义一系列进行自动库存调度的工具

 

第三部分: 多Agent 最佳实践—langGraph框架

1.为什么选择多智能体架构?

2.常见的多智能体架构

3.LangGraph架构和应用

4.LangGraph 核心组件:节点与可控制性

5.节点与可控制性-第一个LangGraph

6.节点与可控制性-基本控制:串行控制&分支控制&条件分支与循环

7.节点与可控制性-精细控制:图的运行时配置&map-reduce

8. LangGraph 核心组件:持久化与记忆

9.记忆:短期记忆的实现&长期以及实现&使用总结技术优化记忆

10. LangGraph 核心组件:人机交互

11. LangGraph 核心组件:时光旅行

12. LangGraph 核心组件:流式输出

13. LangGraph 核心组件:工具调用

14.基于LangGraph 构建代码助手

15.基于LangGraph 的提示词生成小助手

 

第四部分: CrewAI: 一款主流的多Agents开发框架

1.CrewAI架构和原理

2.CrewAI安装与第一个示例

3.CrewAI 核心组件讲解

4.CrewAI 核心组件:Agents

5.CrewAI 核心组件:Task

6.CrewAI 核心组件:Crew & flow

7.CrewAI 核心组件:知识库 & 记忆

8.基于CrewAI 的游戏开发助手最近学习

9.基于CrewAI 的营销策略大师

 

第五部分: 智能客服系统架构设计

1.掌握智能客服系统的整体架构与核心组件

2.理解意图识别与槽位填充(Intent + Slot)的工作原理

3.能够设计基于规则或机器学习的意图识别

4.流水线实现多轮对话管理器,支持上下文理解与状态追踪(Dialogue State Tracking)

5.构建可插拔的工具调用引擎(Tool Calling Pipeline)

6.设计自定义 Agent,支持记忆管理与动态决策流程

支持多模态输入处理(语音、图像等)


企业服务热线:400-106-2080
电话:18519192882
投诉建议邮箱:venus@bailinzhe.com
合作邮箱:service@bailinzhe.com
总部地址:
北京市-丰台区-汽车博物馆东路6号3号楼1单元902-B73(园区)
全国客户服务中心:
天津市-南开区-桂苑路15号鑫茂集团鑫茂军民园1号楼A座802-803
公众号
百林哲咨询(北京)有限公司 京ICP备2022035414号-1