课程简介
随着全球电商与支付领域的高速发展,实时交易数据量与复杂模型结构持续攀升,数据与模型的深度融合正逐步成为反欺诈风控体系的核心趋势。在Amazon、eBay、阿里、京东等头部平台中,模型驱动的自动化识别能力日益成为提升风控精准度与响应速度的关键。尤其是,高性能推理任务对GPU资源的依赖与争抢日益突出,通过模型压缩、推理批量化、资源池化等方式优化资源调度,成为提升系统吞吐能力的关键路径。进一步而言,行业正在积极探索模型推理工作流的自动化生成与智能调度机制,以实现数据计算、模型推理、业务逻辑与监控平台之间的高度协同。这类跨平台的统一编排,会演化为大型科技公司工程平台建设的标准模板,旨在提升系统的可复用性、可观测性和敏捷运维能力。
业内普遍实践为依托海量数据提取高质量特征,构建多阶段、多模态的混合模型体系进行推理,以准确识别欺诈行为;同时,将模型推理结果高效地服务于各类业务场景。这种模式基本能够覆盖业务需求,但在实施过程中仍然存在明显痛点:
1)模型推理需处理TB甚至PB级的数据量,特征维度高,导致推理效率低、资源消耗大,难以满足实时响应需求;
2)跨平台推理流程缺乏高效统一的调度与管理机制,增加了协调难度和延迟;
3)推理工作流的代码开发、部署成本较高,造成生产效率降低和运维复杂度上升。
这些痛点促使企业对推理计算方案及数据与模型工程架构进行深度优化和智能化改造,以整体提升系统性能和生产效率。
本次分享将围绕通过系统性工程优化,在海量数据背景下,实现复杂模型批量推理的高效执行与智能调度;在确保模型精准性的前提下,同时实现高速度和低资源消耗。包括:模型推理计算方案的选型与优化、推理工作流的自动化生成与跨平台调度、推理开发与运维效率提升等。共同为行业IT从业者带来借鉴。
课程收益
1、帮助学员掌握前沿趋势,洞悉电商风控模型工程发展方向;
2、帮助学员了解一线平台在模型推理自动化、资源优化、平台协同方面的工程落地实践案例,提升模型推理工程落地能力;
3、帮助学员构建高效平台,增强风控体系综合竞争优势
受众人群
1、电商行业的算法工程师、大数据开发工程师、AI系统架构师及风控模型开发专员
2、电商企业风控经理、技术主管、数据分析师及运维工程师
3、电商领域的技术负责人、产品经理(风控方向)、创新实验室研究员及跨部门协作团队核心成员
4、其他对模型推理感兴趣的人员
课程周期
0.5天(3H)
课程大纲
1、背景介绍
2、海量数据与复杂模型的高效批量推理
1)面向复杂模型类型、海量数据场景下的推理方案分析与选型
2)典型风控场景下模型批量推理优化与案例分析
3、模型批量推理工作流部署与调度
1)模型一键部署与工作流自动生成
2)面向模型推理复杂工作流的跨平台调度与统一管理
4、总结与展望
1)推理方案自动化选择:根据数据规模、模型类型、SLA要求,自动匹配推理方案
2)基于大模型的性能优化:利用LLM分析日志、识别瓶颈,实现智能运维,推动推理平台向自优化、自诊断方向演进
5、QA
京ICP备2022035414号-1