在英特尔® 酷睿™ Ultra7处理器上优化和部署Phi-3-min模型
作者 英特尔边缘计算创新大使 王一凡1.1 Phi-3-mini模型简介2024年4月23日，微软研究院公布Phi-3系列AI大模型，包含三个版本：mini(3.8B参数)、**all(7B参数)以及medium(14B参数)。phi-3-mini是一个拥有3.8B参数规模的模型，其训练数据集基于Phi-2所使用数据集的扩大版本，由大量过滤后的网络数据和合成数据组成，经过3.3T tokens的训
openlab_96bf3613
1年前
在英特尔®酷睿™Ultra处理器上优化和部署YOLOv8模型
作者：广州神州数码信息科技有限公司 周日升英特尔®酷睿™Ultra处理器是英特尔公司推出的一个高端处理器品牌，其第一代产品基于Meteor Lake架构，使用Intel 4制程，单颗芯片封装了 CPU、GPU(Intel® Arc™ Graphics)和 NPU(Intel® AI Boost)，具有卓越的AI性能。本文将详细介绍使用OpenVINO™工具套件在英特尔®酷睿™Ultra处理器上实现
openlab_96bf3613
1年前
社区贡献者分享 | OpenVINO™ 代码贡献助力我的开源之路
作者：占俊坚 摘要 在 OpenVINO™ 2024.1 release 版本中，我为 OpenVINO™ 添加了 TensorFlow 中的 Rint operation 以及 PyTorch 中的 aten::bucketize operation 的支持，在此分享我的实现过程，给有兴趣参与 OpenVINO™ 开源项目的同学参考，希望大家都能积极参与到社区建设当中来！ OpenVINO™ 代
openlab_96bf3613
1年前
作者：杨亦诚通常情况下，LLM获取知识的途径仅限于训练时的样本数据以及Prompt中包含的上下文信息，因此如果缺少有效的外部信息获取途径，LLM便无法像一个智能体一样自主学习知识并做出行动，这也是为什么我们要引入Agent的概念。顾名思义Agent便是让LLM像代理一样来对接用户需求，将问题拆解后，通过调用外部工具的方式来解决这些问题，不同于传统的人工智能，Agent 具备通过主动思考、调用工具去
openlab_96bf3613
1年前
作者：杨亦诚LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。通过LangChain，开发者可以轻松构建基于RAG或者Agent流水线的复杂应用体系，而目前我们已经可以在LangChain的关键组件LLM，Text Embedding和Reranker中直接调
openlab_96bf3613
1年前
