英特尔锐炫显卡助力AI落地:多GPU扩展支持大参数模型推理

英特尔客户端计算事业部边缘计算CTO、高级首席AI工程师张宇博士2025年6月19日,上海—在MWC 25上海期间,英特尔展示了一幅由英特尔锐炫™ Pro B系列GPU所驱动的“实时响应、安全高效、成本可控”的边缘AI图景。英特尔客户端计算事业部边缘计算CTO、高级首席AI工程师张宇博士在MWC AI终端峰会上指出,边缘将崛起为AI落地的核心场景,而英特尔精准捕捉和把握这一趋势,依托包括英特尔锐炫

openlab_96bf3613 9月前
3428 0 0

利用OpenVINO™在本地部署Qwen2.5-Omni全模态任务

介绍Qwen2.5-Omni是Qwen 模型家族中新一代端到端多模态旗舰模型。该模型专为全方位多模态感知设计,能够无缝处理文本、图像、音频和视频等多种输入形式,并通过实时流式响应同时生成文本与自然语音合成输出。 主要特点包括:全能创新架构:Qwen2.5-Omni基于全新的Thinker-Talker架构,这是一种端到端的多模态模型,旨在支持文本/图像/音频/视频的跨模态理解,同时以流式方式生成文

openlab_96bf3613 9月前
6268 0 0

在Labview平台调用OpenVINO™ C# API部署PaddleOCR v5模型

1.项目介绍该项目基于OpenVINO™模型推理库,在C#语言下,调用封装的OpenVINO™动态链接库,部署推理PP-OCRv5中的文字识别模型;实现了在Labview平台调用OpenVINO™部署PP-OCRv5文字识别模型。 核心功能与优势 OpenVINO™能够显著提升AI模型的推理计算性能,大大提高了CPU推理的速度,对比常规的无OpenVINO™的CPU推理库,速度提升5-6倍。多语言

openlab_96bf3613 9月前
5796 0 0

OpenVINO™ 2025.2新版本:英特尔® XMX 图形处理器优化提升GPU性能,KV缓存压缩节省CPU使用

Hi all, 我们的记录显示,您之前从英特尔下载了 OpenVINO™ AI 推理软件。我们很高兴的分享给您,OpenVINO™工具套件的新版本现已可用,您可以进行升级。 在此版本中,您将看到通过 OpenVINOLLM 持续提升 LLM 的性能,以支持生成式 AI 负载。 主要亮点 更多生成式人工智能(Gen AI)的支持和框架集成,最大程度地减少代码更改 在 CPU 及 GPU 上支持的新模

openlab_96bf3613 9月前
5116 0 0

使用OpenVINO™.CSharp.API在C#平台快速部署PP-OCRv5模型识别多场景文本

PP-OCRv5是百度开源的高效OCR系统,通过轻量化SLANet网络提速20%,优化多尺度特征融合提升小文本识别,支持80+语言,显著降低复杂场景错误率,适用于移动端/服务器端部署。 在本文中,将演示如何使用的OpenVINO.CSharp.API.Extensions.PaddleOCR NuGet Package快速在Intel CPU平台落地PP-OCRv5模型 项目链接: #OpenVI

openlab_96bf3613 9月前
8020 0 0