大模型赋能研发生产实践
Richard Ma 查看讲师
百林哲咨询(北京)有限公司专家团队成员
国内知名的人工智能和大模型算法专家,拥有丰富培训经验
浏览:427次
详情 DETAILS

课程简介

随着人工智能技术的持续飞速发展,大模型凭借其卓越的数据处理能力和强大的泛化性能,正在以前所未有的深度改变着企业研发生产的面貌。它可以帮助企业优化研发流程,减少不必要的重复劳动和资源浪费,从而提升生产效率。还能够加速产品创新,帮助企业快速响应市场变化,推出更具竞争力的产品和服务,从而在激烈的市场竞争中占据领先地位。可以说,大模型已经成为企业数字化转型的重要引擎和加速器

本课程系统梳理了大模型的发展脉络,深入讲解大模型的基础技术理解、训练与推理优化方法。在应用开发部分,课程介绍了多种开发框架及核心模块,并深入探讨了提示词工程的最佳实践。通过RAG和Agent模式的介绍帮助学员学会构建复杂应用。最后,课程聚焦大模型在研发生产中的实践应用,助力学员掌握大模型赋能研发生产的实战技能。

课程收益

1、帮助学员深入了解从机器学习到大语言模型的演进过程,掌握大模型的基础理论、发展现状及未来趋势

2、帮助学员掌握大模型应用开发框架与最佳实践

3、帮助学员构建大模型Agent应用提升研发效率

受众人群

具备一定AI和机器学习基础知识的专业人士、软件开发工程师、架构师、产品经理、项目经理及其他对AI技术感兴趣的人员

课程周期

2天(12H

课程大纲

标题

授课内容

一、大模型发展脉络(AI理论知识脉络:从机器学习到大语言模型)

1. 机器学习源起

(1) 机器学习数学基础

(2) ML之分类算法

(3) ML之聚类算法

(4) 深度学习时代下的ML算法

(5) 注意力机制与Transformer的崛起

2. 从小模型到大模型

(1) CV图像处理算法

(2) NLP自然语言处理算法

(3) Bert时代到GPT时代

3. GPT与闭源大模型

(1) OpenAI历史回顾

(2) 指令学习与强化对齐

(3) chatGPT到GPT4

(4) 从文本到多模态

(5) Claude、Gemini与其余闭源大模型

4. 开源社区的进展

(1) 国外开源大模型概览(llama、Grok、Mistral、Gemma等)

(2) 国内开源大模型概览(通义千问、百川、智谱、kimi等)

(3) MoE技术、多模态的崛起

5. 发展总结与展望

二、大模型落地实践

1. 大模型基础技术理解

(1) 常见大模型介绍与网络结构的统一性

(2) 大模型的缩放法则与涌现能力

(3) 大模型的基础训练过程(预训练、指令微调、强化学习对齐)

(4) 大模型主流预训练框架介绍(Megatron,Deepspeed

(5) 大模型评价体系(数据集与榜单介绍)

2. 大模型训练与推理( GLM3-6B为例)

(1) 基础权重准备与推理部署

(2) 微调数据集准备

(3) 全参数微调与Lora微调(数据构造与超参数设定)

(4) 垂类模型微调实践(格式服从案例)

3. 大模型推理优化

(1) 大规模推理成本优化(量化、vLLM并行推理)

(2) 检索强化型大模型应用(RAG)

(3) 如何针对线上Case修复模型问题

(4) 如何利用CoT与Agent机制提升模型效果

(5) 大模型安全与风险控制

三、大模型应用开发

1. 开发框架介绍

(1) Langchain

(2) Dify 与 Coze

(3) 其余典型项目介绍

2. 框架核心模块入门

(1) 基于LLM Chain的工作流实践

(2) 模板化输入

(3) 框架记忆力机制

3. 提示词工程的最佳实践

(1) 基于结构化prompt

(2) 基于CoT的prompt优化

(3) 基于RAG的领域能力提升

(4) 基于functionCall的专业能力提升

(5) 基于ReAct框架协同推理与行动

(6) 基于Agent机制强化能力

4. RAG模式数据处理流

(1) 文档加载器

(2) 文档转换器

(3) 文档向量化转换模型

(4) 向量数据库

(5) 检索器Retrievers

5. Agent模式构建复杂应用

(1) 函数调用能力functionCall

(2) LLM的推理、规划与反思能力

(3) 模块设计与原理实现

(4) 当前Agent落地的实践

四、大模型Agent应用构建示例

1. 基于知识库与图像生成的营销顾问

2. 基于GPT4v/GLM-4V实现多模态交互

3. AgentGPT、AutoGPT 实践与原理拆解

五、大模型赋能研发生产实践

1. 大模型时代下的研发工序新范式

(1) 需求分析和设计阶段

(2) 软件编码与测试阶段

(3) 应用发布与维护阶段

(4) 软件开发场景大模型应用行业回顾

2. 当前大模型落地对研发人员的要求与挑战

(1) 研发人员的AI应用水平

(2) 研发人员的业务理解能力

(3) 新技术的敏感度与实践

(4) 研发管理者的要求

3. 超级开发者的崛起与成长路径

(1) 大模型时代下的全栈工程师

(2) 业务理解与需求分析的全栈化

(3) 领域特点与模块化认知

(4) 演进式架构设计

(5) 端到端研发交付全流程

(6) 开发者的成长路径(人人都是开发者)

4. 软件提示工程场景应用与实战

(1) 提示词工程回顾(Prompt Engineering)

(2) 代码生成部分:text2SQL、Text2Python

(3) Bug检测与修复部分:Bugfix、Explain

(4) 流程提效部分:产品实践与技术知识问答

5. 构建大模型时代下的软件研发组织

(1) 模型适配&开放框架选型& 场景应用适配

(2) 基于人与AI系统的流程实践

(3) 研发数据资产和知识管理

(4) 数据隐私保护与安全合规

(5) 专业能力与组织分工演进


企业服务热线:400-106-2080
电话:18519192882
投诉建议邮箱:venus@bailinzhe.com
合作邮箱:service@bailinzhe.com
总部地址:
北京市-丰台区-汽车博物馆东路6号3号楼1单元902-B73(园区)
全国客户服务中心:
天津市-南开区-桂苑路15号鑫茂集团鑫茂军民园1号楼A座802-803
公众号
百林哲咨询(北京)有限公司 京ICP备2022035414号-1