Vitis AI Library 是一组高层次库和 API,专为利用深度学习处理单元 (DPU) 来高效执行 AI 推断而构建。它是基于 Vitis AI 运行时利用统一 API 构建的,并且支持 XRT 2022.1。
Vitis AI Library 通过封装诸多高效且高质量的神经网络,提供易用且统一的接口。由此可简化深度学习神经网络的使 用,对于不具备深度学习或 FPGA 知识的用户也是如此。Vitis AI Library 使您能够专注于开发自己的应用,而不是底层硬件。
<strong>目标受众</strong>
Vitis AI Library 的目标用户如下:
<li>用户想要使用经过预训练的 AMD 赛灵思模型来快速构建应用。</li>
<li>用户使用 Vitis AI Library 支持网络列表下其自有数据集来训练自有模型。</li>
<li>用户具有与 Vitis AI Library 支持的模型类似的自定义模型,并使用 Vitis AI 后处理库。</li>
注释:如果您拥有的自定义模型与 Vitis AI Library 所支持的模型截然不同,或者您有专业的后处理要求,则可使用 Vitis AI Library 实现作为参考。
本文档描述了如何使用 Vitis AI Library 来安装、使用和开发应用。如果您希望获取完整文档,请至文末扫码进行下载。
<strong>相关库</strong>
以下 Vitis™ AI Library 与本文档有关。
Vitis AI Library 程序包列表
<center><img src="http://xilinx.eetrend.com/files/2022-12/wen_zhang_/100564140-271303-1.p…; alt=""></center>
<strong>模块框图</strong>
<strong>Vitis AI Library 包含 4 个部分:</strong>
<li>基本库:基本库提供了基本编程接口,其中包含 DPU 和每个模型可用的后处理模块。dpu_task 是适用于 DPU 运算的接口库。cpu_task 是适用于分配给 CPU 的运算的接口库。xnnpp 是每个模型的后处理库,其中具有内置模块, 如最优化和加速。</li>
<li>模型库:模型库能实现大部分开源神经网络部署,包括常见的网络类型,如分类、检测、分割等。这些库提供了易于使用的快速部署方法,并具有统一的接口,适用于 AMD 赛灵思模型或自定义模型。</li>
<li>库测试样本:库测试样本用于快速测试和评估模型库。</li>
<li>应用演示:应用演示为您展示了如何使用 Vitis AI Library 来开发应用。</li>
<strong>Vitis AI Library 模块框图如下图所示。</strong>
<center><img src="http://xilinx.eetrend.com/files/2022-12/wen_zhang_/100564140-271304-2.p…; alt=""></center>
<strong>功能特性</strong>
<strong>Vitis AI Library 特征包括:</strong>
<li>全栈应用解决方案</li>
<li>经最优化的预处理和后处理函数/库</li>
<li>开源模型库</li>
<li>统一操作接口,具有 DPU 以及模型的预处理和后处理接口</li>
<li>基于应用的实用模型库、预处理和后处理库以及应用示例</li>
<strong>Vitis AI Library v2.5 版本说明</strong>
本节包含有关 Vitis™ AI Library 2.5 版本的功能特性和更新的信息。
<strong>关键功能特性与增强功能</strong>
此版本的 Vitis AI Library 包含以下关键功能特性与增强功能:
<li>全新模型库:支持下列新模型库:OCR、Textmountain 检测、车辆分类、OFA_YOLO 检测、EfficientDet_D2、Movenet 检测。</li>
<li>全新模型支持:添加 11 个全新 PyTorch 模型、添加 5 个全新 TensorFlow 模型、添加 1 个全新 TensorFlow2 模型。</li>
<li>新增 CPU 运算符支持:添加 8 个 CPU 运算符。</li>
<li>自定义运算符增强功能:在 Python 中添加自定义运算符寄存示例。</li>
<li>Xdputil 工具增强功能:xdputil 支持查看指定运算符的信息。</li>
<strong>兼容性</strong>
Vitis™ AI Library 2.5 已经过下列镜像的测试。
<li>xilinx-zcu102-dpu-v2022.1-v2.5.0.img.gz</li>
<li>xilinx-zcu104-dpu-v2022.1-v2.5.0.img.gz</li>
<li>xilinx-kv260-dpu-v2022.1-v2.5.0.img.gz</li>
<li>xilinx-vck190-dpu-v2022.1-v2.5.0.img.gz</li>
<strong>器件支持</strong>
Vitis™ AI Library 2.5 支持以下平台和评估板 (EVB)。
边缘器件支持
<center><img src="http://xilinx.eetrend.com/files/2022-12/wen_zhang_/100564140-271305-3.p…; alt=""></center>
云开发板支持
<center><img src="http://xilinx.eetrend.com/files/2022-12/wen_zhang_/100564140-271306-4.p…; alt=""></center>
<strong>文档导航</strong>
第 1 章:引言——提供了有关 Vitis AI Library 的高层次综述。本章提供了有关 Vitis AI Library 整体、其框架、受支持的 网络和受支持的硬件平台的清晰综述。
第 2 章:安装——描述了如何安装 Vitis AI Library 和运行示例。本章中的信息将有助于您快速设置主机和目标环境、编译并执行 Vitis AI Library 相关的示例。
第 3 章:库和样本——描述了 Vitis AI Library 支持的每个模型库。本章提供了有关 Vitis AI Library 支持的模型库、每个库的用途、如何使用图像和视频来进行库测试以及如何测试库性能的综述。
第 4 章:编程示例——描述了如何使用 Vitis AI Library 来开发应用。
第 5 章:应用演示——描述了如何设置测试环境和运行应用演示。Vitis AI Library 提供了 2 个应用演示。
第 6 章:API 编程——描述了如何查找编程 API。
第 7 章:性能——描述了不同开发板上的 Vitis AI Library 性能。
获取完整版《Vitis AI Library 用户指南(UG1354)》请扫描下方二维码进行下载
<img src="http://xilinx.eetrend.com/files/2022-12/wen_zhang_/100564140-271307-ug1…; alt="">