让哪吒用上DeepSeek，让OpenVINO加速边缘计算--完整版
作者：金立彦 4月17日，OpenVINO™ 2025.1版正式发布了。我们尝个鲜，利用OpenVINO在英特尔哪吒开发套件上部署deepseek-r1-distill-Qwen-7b模型。 一、在边缘终端部署本地大模型的好处 边缘终端，如树莓派和英特尔哪吒开发套件，通常具有较低的功耗和成本，同时具备一定的计算能力。在这些设备上部署 DeepSeek-R1 大模型，可以带来以下好处： 1.
openlab_96bf3613
27天前
Qwen3 Day0 deployment on Intel OpenVINO™ / Intel OpenVINO™ Day0实现Qwen3快速部署
杨亦诚 Qwen3是阿里通义团队近期最新发布的文本生成系列模型，提供完整覆盖全参数和混合专家(MoE)架构的模型体系。经过海量数据训练，Qwen3在逻辑推理、指令遵循、智能体能力及多语言支持等维度实现突破性提升。而OpenVINO™工具套件则可以帮助开发者快速构建基于LLM的应用，充分利用AIPC异构算力，实现高效推理。 Qwen3, the latest text generation mode
openlab_96bf3613
27天前
省钱还高效！OPEA+Dify在Intel® Arc™ GPU上构建基于DeepSeek的RAG工作流
近年来，大语言模型（LLM）在问答系统、智能助手、文档检索等场景大放异彩。尤其是 RAG（Retrieval-Augmented Generation，检索增强生成）架构，通过结合“检索 + 生成”，在准确性、个性化、可控性等方面表现出强大优势。 为什么选择OPEA+Dify 打造RAGRAG允许将私有数据纳入回答范围，可以显著降低模型幻觉，提升回答的准确度，在企业知识库问答，客服机器人，技术文档
openlab_96bf3613
1月前
引言OPEA 是一个开放平台项目，旨在让用户创建开放、多供应商、健壮且可组合的生成式 AI 解决方案，整合生态创新成果。 GenAIInfra 是 OPEA 子项目，目的在于提供OPEA构建的容器化与云原生套件，含部署 GenAIExamples 的构建，供企业部署到自有云。 本文介绍 GenAIInfra 的各个部分、具体功能、关键组件，还有实际应用案例。 认证和授权管理GenAIInfra 集
openlab_96bf3613
1月前
英特尔® 具身智能大小脑融合方案发布：构建具身智能落地新范式
在4月18日举办的2025英特尔具身智能解决方案推介会上，英特尔正式发布其具身智能大小脑融合方案（下称具身智能方案）。该方案基于英特尔® 酷睿™ Ultra处理器的强大算力，以及全新的具身智能软件开发套件和AI加速框架打造。凭借创新性地模块化设计，其不仅能够兼顾操作精度和智能泛化能力，而且以卓越的性价比满足不同领域需求，为具身智能的规模化、场景化应用落地夯实基础。 视频 英特尔具身智能大小脑融合方
openlab_96bf3613
1月前
