M-Vision在LinuxRT下使用OpenVINO加速AI推理

openlab_4276841a 更新于 8月前

完成人:浙江科博达工业有限公司 齐磊

1. M-Vision简介

M-Vision是科博达集团工程技术中心独立自主研发的零代码机器视觉平台:

聚焦解决客户实际痛点,为客户提供一站式的解决方案

在传统机器视觉算法的基础上融入了AI深度学习

当前M-Vision已广泛应用于字符识别,缺陷检测、尺寸测量、目标定位等多种工业细分场景,赋能智能装备。

2. LinuxRT简介

在工业控制领域,实时(Real Time) 是一个核心要求。LinuxRT,又称实时Linux,是针对实时性需求而优化的Linux内核。LinuxRT的目标是将Linux内核转变为一个实时操作系统,以满足各种实时应用的需求。



LinuxRT较传统Linux在系统结构上做了如下调整:在Linux进程和硬件中断之间,本来由Linux内核完全控制,现在在Linux内核和硬件中断的地方加上了一个RTLinux内核的控制。

LinuxRT系统结构图

3. 为什么M-Vision使用LinuxRT代替Window****>

M-Vision选用了LinuxRT而不是通用操作系统,是因为:

1. 实时性能优势:传统的Windows和Linux系统属于通用性操作系统,注重的是数据的吞吐量而不是系统响应时间从而不具备更好的实时性,Linux RT实时系统实时性和可靠性更强。

2. 成本优势:支持安装Linux RT的硬件设备成本极低,几百元的x86计算设备(例如N5105)即可支持开发和部署(可完全PK传统ARM等嵌入式)。

3. 生态优势:x86+Linux的软件生态非常强大,很容易复用当前各种成熟的机器视觉和AI算法,开发方便快捷。

本文将介绍在LinuxRT下,使用OpenVINO加速AI推理计算

4.M-Vision安装与部署

M-Vision安装与部署流程图如下:

图2 流程图

1.安装LinuxRT系统。

     将Linux RT操作系统镜像文件拷贝到启动介质里面用来制作启动介质。最后启动介质插入目标设备进入Bios设置随屏幕提示选择设置。

图3 Bios界面图

图4 安装结果图

2.下载Linux版OpenVINO 2022.3,并将所需的lib文件夹中所有文件拷贝到/usr/lib目录。

前往Intel官方网站(https://software.intel.com/content/www/us/en/develop/tools/openvino-toolkit.html),找到并点击下载OpenVINO Toolkit的链接,在下载页面上,选择适用于Linux系统的版本,并确保选择OpenVINO 2022.3

图5 OpenVINO下载

3.安装pugixml组件,并将.so库文件全部拷贝到/usr/lib。

前往pugixml的官方GitHub仓库(https://github.com/zeux/pugixml)下载最新的源代码。安装tbb组件,将.so库文件拷贝到对应lib文件夹。

前往Intel开源页面(https://github.com/oneapi-src/oneTBB)下载TBB的最新源代码。

3. Windows下安装M-Train。

M-Vision下载地址:https://cowtransfer.com/s/3e643a258e2242 点击链接查看 [ M-Vision标准版4.5.zip ] ,或访问奶牛快传 cowtransfer.com 输入传输口令 drvvk7;

M-Train试用下载链接:https://cowtransfer.com/s/fe6f7fe5de164c 点击链接查看 [ M-Train.rar ] ,或访问奶牛快传 cowtransfer.com 输入传输口令 hc7x5n。

图6 M-Train下载图

5.在Linux RT系统下部署M-Vision,

7 M-Vision部署结果图

5.LinuxRT系统与通用操作系统下使用M-Vi****>ion对比

在工业视觉中有根据产品的特征来识别产品不同型号的,下面的一个案例是通过铁环上不同的特征点来识别不同型号铁环的。此案例可以让我们清晰的看到在两个不同的系统下所花费时间的不同。

1. 收集每种类型铁环的特征点进行标注。(在进行少量人工标注后可以再导入相同类型图片进行自动标注)

8 M-Train标注

2. 对标注图像进行训练,训练结束进行测试,以及导出模型文件和*.MV文件应用到M-Vision的AI识别中。

9 M-Train训练

图10 MV文件导入图

3. AI识别一张图片,不同系统下M-Vision的处理时间是不一样的,LinuxRT下使用时间270ms,Windows下使用时间448ms,如下所示:

图11 Linux RT下处理图片(270m*****>

图12 windows下处理图片(448m*****>

对比如下表:

操作系统

CPU型号

模型名称

运行时间

Linux RT

Intel i7-8700

defect

270ms

windows

Intel i7-8700

defect

448ms

在这个AI识别中我们节省了大约170ms的运行时间,以此类推我们知道如果更多的产品或者更多的特征点需要识别,我们的LinuxRT下使用我们的M-Vision的优势将会更好的体现出来。这种优势主要是因为LinuxRT(Real-time Linux)是专门针对实时应用设计的Linux内核,具有更好的实时性能。对于对实时性要求较高的机器视觉应用,使用LinuxRT可以更好地满足实时处理的需求,并且。使用LinuxRT可以灵活地进行自定义和调试,更加适应不同的机器视觉应用需求。

6.总结与展望

我们在Linux RT系统下使用OpenVINO将AI视觉检测能力集成到M-Vision零代码机器视觉平台,结合M-Train工业无代码训练平台(可进行自动标注训练),可以高效便捷的对应工业质检领域碎片化的挑战、让更多的智能化装备快速落地,实现无人化“黑灯工厂”的目标。

下接来,M-Vision还会支持高性价比的集成显卡和高性能的英特尔独立显卡,实现M-Vision在AI工业质检领域全场景覆盖。

联系我们:

联系人:齐磊(可扫右侧二维码添加微信)             

电话:0573-89857888(转8996)

    13325733167

邮箱:Lei.Qi@keboda.com

地址:嘉兴市经济技术开发区昌盛东路1229号浙江科博达工业有限公司

0个评论