课程简介

当下，AI技术飞速发展的时代，生成式AI和大语言模型在各个领域展现出巨大的潜力和广泛的应用前景。然而，这些模型通常需要大量的计算资源和高效的推理能力，这为实际部署带来了巨大挑战。为了应对这些挑战，拥有一个高效且功能强大的AI工具套件变得至关重要。OpenVINO™作为英特尔推出的一款开源AI工具套件，正是为了解决这些问题而生，可优化和加速多模态大模型的能力，使得开发者能够在不同硬件平台上高效部署AI应用。

在开发实践以及用开发者交流的过程中，AI技术的成功落地不仅依赖于先进的算法和模型，更依赖于强大的工具套件支持。OpenVINO™卓越的性能优化和跨平台部署能力，让开发者拥有一条从模型到应用的高效路径。通过对OpenVINO™的深入应用，从模型的推理性能，以及在图像、文本和音频等多模态数据处理上取得了显著进展。这使得复杂的生成式AI任务能够在资源受限的边缘或本地设备环境中高效运行，极大地拓宽了AI应用的场景和范围。

本次分享将深入探讨利用OpenVINO™优化和加速多模态大模型，显著提升推理性能。OpenVINO™的核心功能和架构，以及它在不同硬件平台上的高效部署能力。将展示OpenVINO™在多模态数据处理中发挥的优势，帮助企业实现生成式AI和大语言模型的高效落地。

课程收益

1、帮助学员深化对生成式AI和大语言模型的理解，掌握利用OpenVINO™优化和加速这些模型的实用工具和方法；

2、通过实际案例和演示，帮助学员掌握将多模态大模型高效部署到不同硬件平台上的技能，提升AI模型在各种环境中的推理性能和能效。

3、帮助学员在实际项目中应用OpenVINO™进行模型优化和推理加速，实现AI项目的高效落地。

受众人群

企业管理者，IT行业从业者及其他对多模态大模型感兴趣的人员

课程周期

3H

课程大纲

1、多模态大模型的发展趋势与推理部署痛点

2、高效推理部署：OpenVINO™的本地化推理部署方案

3、性能优化：OpenVINO™针对多模态大模型推理的优化工具介绍

4、demo演示：OpenVINO™在边缘设备及AI PC上离线运行多模态大模型

5、研讨总结