课程简介
在当今数字化浪潮席卷全球的时代，AI技术正以前所未有的速度重塑着各个行业格局，大模型作为AI领域的核心驱动力，其研发与应用能力已成为企业竞争的关键要素。从智能客服到内容创作，从数据分析到决策支持，大模型的应用场景日益广泛，为企业带来了前所未有的发展机遇。然而，要真正驾驭这一强大技术，不仅需要深入理解大模型的核心原理，掌握其底层机制与算法，还需熟悉各类主流框架，能够灵活运用提示工程优化模型输出，并具备构建高效、可扩展应用架构的能力。同时，将AI技术落地于实际业务场景，实现企业级智能体协作网络的搭建，推动业务流程自动化与智能化，更是当前企业面临的重要挑战。
本课程聚焦 AI 原生应用开发，涵盖大模型核心原理、主流框架与应用开发、应用架构原则及行业实践。从深入解析 LLM 底层机制，到掌握 LangChain、LlamaIndex 等主流框架；从学习智能体开发与实践，到了解 MCP 工程化实践；再到掌握大模型应用架构原则并开展行业实践，通过丰富的案例演练与实战项目，助力学员系统掌握 AI 原生应用开发技能，提升在企业智能化转型中的实战能力。
课程收益
1、帮助学员掌握AI核心技术机制：深入理解LLM底层原理、嵌入技术及RAG优化，并能运用工具如LangChain、LlamaIndex进行模型开发和知识库构建，提升AI理论基础。
2、帮助学员实现行业场景落地：获得金融、制造等行业实战经验，如构建MCP驱动的智能体协作网络、开发代码迁移工具和知识运营助手，助力企业在真实场景中规模化应用AI，提升研发质量和效率。
3、帮助学员增强工程化落地能力：通过案例演练（如本地MCP客户端、RAG应用开发）和工具链实操，培养学员的工程实践技能，确保AI技术在企业环境中的可扩展性和稳定性。
受众人群
AI 开发工程师、软件工程师、算法工程师、数据科学家、系统架构师
课程周期
2天（12H）
课程大纲
标题 | 授课内容 |
一、AI研发基础强化 | 1. 大模型核心原理 (1) 原理精要：LLM的核心概念包括词元（token）和嵌入（embedding），阐释GPT的自注意力机制，文本分类与聚类算法与模型，训练和微调大语言模型 (2) 编码知识：运用transformer、torch、sentence-transformer、peft、trl等框架深入洞悉LLM内部机制与算法 (3) 案例演练：加载开源模型生成文本，演练从文本到词元到嵌入向量的转换过程，实现简单的自注意力机制，运用word2vec算法实现内容推荐，通过BERT进行情感分析，运用BERTopic进行主题建模，使用QLoRA进行指令微调 (4) 工具：Cursor + Python + phi-3-mini + word2vec + pandas 2. 工业级提示工程 (1) 原理精要：结合LLM的底层机制，探讨好的提示词如何引导LLM生成有用的回复 (2) 工业级提示模板：CRISPE框架及其优化QCIPSPE框架、思维链（CoT）和思维树（ToT）、ChatGPT/Claude/Gemini等的系统提示词，GitHub Copilot与Cursor最佳模板分析 (3) 案例演练：调用主流大模型，对比各种提示词模板的使用效果，明确各种提示词模板的适用场景 (4) 工具：Cursor + Claude + ChatGPT + DeepSeek R1 + Ollama + Qwen |
二、AI主流框架与应用开发 | 1. LangChain框架 (1) 链式架构：LangChain框架基础知识与链式架构，通过记忆构建LLM的对话回溯能力，运用多提示词、链式架构和多模型协同执行任务 (2) 案例演练：运用多提示词链式架构生成完整故事 (3) 工具：Cursor + LangChain + Ollama + Qwen + llama3 2. LlamaIndex框架与RAG (1) 语言模型驱动的语义搜索：从语义搜索技术的发展逐步引入RAG技术，内容包括稠密检索、重排序和RAG，从而建立RAG理论基础 (2) RAG技术演进：从Native RAG、Advanced RAG到Modular RAG与Agentic RAG，理清楚RAG的技术演进路线以及各自优缺点 (3) LlamaIndex核心概念：了解LlamaIndex框架的核心概念，熟悉LlamaIndex的初步开发能力 (4) RAG应用开发：深入RAG的五个环节，掌握LlamaIndex开发RAG的基础知识，熟练运用框架的组件 (5) 案例演练：打造企业内部知识库，需要对加载的本地文档进行向量化，通过LlamaIndex框架编写RAG应用 3. 智能体开发与实践 (1) 智能体基础知识：智能体核心机制与ReAct框架 (2) 主流智能体开发框架：LangGraph框架与CrewAI框架介绍 (3) ACP和A2A协议：多智能体之间的通信与协作 (4) 案例演练：通过Agent调用搜索引擎和计算器完成复杂任务、通过ReAct框架实现chat to db智能体、通过CrewAI开发Agentic RAG应用 (5) 工具：Cursor + LangChain + CrewAI + FireCrawl + DeepSeek Chat API + Ollama + Qwen + llama3 4. MCP工程化实践 (1) MCP架构与核心原理：深入分析MCP架构与核心组件，详解MCP底层架构包括MCP协议层和传输层 (2) MCP Server与Tools：定义和创建MCP Server与Tools，并以Cursor为MCP Host部署MCP (3) 案例演练：实现面向SQLite的本地MCP客户端，实现MCP驱动的金融分析师， 实现支持对复杂文档的RAG MCP，实现支持音频和视频的RAG MCP (4) 工具：Cursor + MCP Host + Ollama + DeepSeek-R1 + CrewAI + Ragie + GroundX |
三、大模型应用架构原则与案例实践 | 1. 大模型应用架构原则 (1) 设计原则：关注点分离（大模型应用中智能体、上下文、LLM、工具、提示词等多个角色的关注点分离）并由此形成能力映射、用户意图导向设计原则等 (2) 架构模型：大语言模型应用分层架构、行业先进应用的参考架构，基于智能体和多智能体的应用架构模型 (3) 构建路线：结合案例讲解构建大语言模型应用架构的步骤和方法 2. AI应用开发行业实践 (1) 多智能体协作网络：引入分层架构设计原则，遵循MCP和ACP协议，建立感知-决策-执行闭环的智能体分层架构，从而指引企业在技术架构层面推动AI为技术赋能 (2) 行业案例：某行业企业内部的智能化应用开发实践，通过打造自主型智能体，实现业务流程的自动化和智能化，提升工作效率 |
京ICP备2022035414号-1
