在本地运行多模态 AI Agent:用 OpenVINO™ 部署 Gemma4-12B

一份 Windows 实战部署指南——从零环境到模型开口说话(还会看图)一、为什么要在自己的机器上跑大模型云端大模型固然好用,但也有例外,有时你的数据不能离开公司,有时你在没有 Wi-Fi 的飞机上,有时你只是不想再付一笔按量计费的 token 账单。好消息是:Google 于 2026 年 6 月开源的 Gemma4-12B-it,一个 120 亿参数的多模态模型,把过去得靠云端服务器才能跑的多

openlab_96bf3613 18小时前
8 0 0

把 PC 级 AI 算力塞进车里:英特尔 AI Box 究竟能做什么?

不是换掉座舱,是给它加个“外挂大脑”很多开发者可能已经见过各种 AI 加速盒子,但英特尔这次基于酷睿™ Ultra 架构打造的 AI Box 有点不一样——它直接打破了传统“外挂算力盒子”的形态,把 PC 级的旗舰算力带进了汽车座舱。说白了,就是给车加一个能跑大模型的“外挂大脑”。为什么座舱需要一块“外挂大脑”?汽车智能化正在从“功能驱动”走向“模型驱动”——从规则系统和固定指令交互,转向由大语言

openlab_96bf3613 5天前
212 0 0

PP-OCRv6 来了:OpenVINO™ 首日支持,让 AI PC 本地 OCR 在 CPU/GPU/NPU 上跑起来

如果你最近在做文档智能、屏幕文字提取、工业字符识别,或者希望在 PC 本地实现一个“看得懂图片中文字”的 AI 应用,大概率绕不开 OCR。OCR 看起来是一个很成熟的任务,但真正做成产品时,开发者很快会遇到几个现实问题:云端 OCR 调用方便,但数据出端、网络延迟和成本都可能成为限制。大模型 OCR 能力强,但在实时摄像头、边缘部署、批量扫描场景里未必划算。传统 OCR pipeline 足够轻

openlab_96bf3613 8天前
248 0 0

把一只会聊天的桌宠,装进你的 Intel 电脑里

作者:OpenBMB开源社区本地运行 · 不上传云端 · 一句话部署 —— 基于 MiniCPM 桌宠 + OpenVINO™想象一下:某个普通的工作日,你的屏幕角落突然多了个小家伙。它会眨眼睛、会卖萌,你随手敲一句「今天好累啊」,它立刻接话安慰你两句——而且这一切,完全发生在你自己的电脑上,一个字节都没飞去云端。听起来很科幻?其实门槛低到出乎意料。过去想在本地跑一个 AI,光是配置环境就能劝退一

openlab_96bf3613 12天前
432 0 0

Agentic 工作坊报名 | 一个 Skill 能走多远?来一个下午亲手验证

做出一个能用的 Agent,曾经意味着不低的门槛——算力要够、链路要通、工程要硬,普通开发者很难轻装上路。而现在,这条路上的每一环都在降门槛:能跑起来的 设备 更轻、更普及,搭建的 方法与软件 越来越成熟,可调用的 模型 也越来越容易触达。当这些门槛同时下降,真正被改变的,是"应用"本身的形态——你不再需要从零造一个应用,而是用一个个 Skill,把能力拆解、拼装,重构 成自己想要的样子。6月13

openlab_96bf3613 14天前
436 0 0
首页 上一页 1 2 3 下一页 尾页