产品和方案更新
No.1:DNNDK v3.1 的新增功能
DNNDK v3.1 已于 8 月 14 日发布。
您可以从赛灵思 AI 开发者中心获取该版本。
以下是几个主要的新功能:
▲ 强化 DPU,显著提升性能,降低功耗
▲ 新增对 Python API 的支持,便于开发 TensorFlow 模型
▲ 使用统一的 DNNC 通过 DLet 支持所有的 DPU 功能配置
▲ Decent_q 支持导出,以便在 DPU 和 CPU/GPU 中比较量化结果
▲ DDump 协助用户分析并调试各种问题
▲ 通过日志记录系统为 DNNC 前端和后台提供更优异的错误消息报告功能
▲ TensorFlow 的支持版本从 v1.9 升级到 v1.12
▲ 新增 Zedboard 支持,作为 Zynq-7000 平台
▲ 使用 DNNDK API 为偏好 基于Tensor 编程的用户重新添加了示例4 个 基于C++ API;2 个基于 Python API
▲ 使用 CUDA 10.0 和 cuDNN 7.4.1,新增 Ubuntu 18.04 支持。
No.2:ML Suite Update1.5 新增功能
ML Suite v1.5 已于 8 月 14 日发布。
您可以从赛灵思 Github 获取该版本:
https://github.com/Xilinx/ml-suite
Xilinx ML Suite v1.5
以下是几个主要的新功能:
▲ 支持 TensorFlow
• Decent_q 配合 TensorFlow-1.12,为量化提供支持
• TensorFlow 的 Notebook 示例
• TensorFlow 的命令行示例
▲ 在 xDNNv3 中支持上采样与解卷积 - 实现 Yolov3、FPN
▲ Alveo 上的人脸检测演示包
▲ 易用性得到强化
• Docker 镜像同时适用于 Caffe 和 TensorFlow
• 可使用 Caffe 或 TensorFlow 直接在 FPGA 上运
想要开始吗?
▲ 立即体验:https://github.com/Xilinx/ml-suite
▲ 版本说明:https://github.com/Xilinx/ml-suite/blob/master/docs/re- lease-notes/1.x.md
No.3:AI SDK2.0 新增功能
AI SDK v2.0 近期刚刚发布。您可以从赛灵思 AI 开发者中心获取:
自 AI SDK v1.0 发布以来,我们收集了大量宝贵的反馈意见,在此基础上我们做出了显著改进。
以下是几个主要的新功能:
▲ 从 DNNDK 分离出来,独立安装和使用
▲ 模型数量增加到 37个,包括人脸特征点、ReID 等
• 与赛灵思 AI Model Zoo 同步
• 所有模型库均为开源库
▲ 经优化的预处理/后处理功能/库
▲ 新增 4 个示例,用于说明如何使用 AI SDK
• 如何定制预处理
• 如何将配置文件用作预处理和后处理参数
• 如何使用后处理库
• 如何实现用户后处理代码
▲ 新增 2 个演示,用于说明多任务/多模型应用
No.4:DPU 参考设计 v3.0
赛灵思 DPU 参考设计已在 Xilinx.com 上升级到 v3.0。
以下是几个主要的改进点:
▲ 性能提高 + 6 – 200%(取决于具体模型)
▲ 低功耗模式显著降低平均功耗
• 空闲 – 30%,运行 – 9~47%(取决于具体模型)
▲ Vivado 中的全功能配置
▲ 从 2018.2 升级到 2019.1
No.5:赛灵思推出 AI Model ZOO
赛灵思 AI Model Zoo 提供在 https://github.com/Xilinx/AI-Model-Zoo。
本库包括优化的深度学习模型,可在赛灵思平台上加速深度学习推理的部署。这些模型覆盖多种不同的应用,包括但不限于ADAS/AD、视频监控、机器人、数据中心等。您可从使用这些免费的预训练模型开始,体验深度学习加速的优势。
该版本的功能包括:
▲ 37 种不同模型,包括浮点版本和定点版本
• 12 种由赛灵思 AI 优化器剪枝的模型
▲ 包括各种 Caffe、Darket 和 Tensorflow 模型
▲ 包括用于分类、检测、分割和姿态估计应用的模型
▲ 丰富的模型信息
• 应用、框架、训练与验证数据集、骨干模型、输入尺寸、计算以及浮点和定点精度等
它可为用户带来巨大优势:
▲ 易于发现最新的 AI 模型资源
▲ 使用预先验证的模型快速部署
▲ 方便衡量量化准确性
No.6:AI 优化器 V1.0 现已发布
AI 优化器源于以前的 Deephi 剪枝工具,采用新品牌后成为赛灵思产品。您可以选择购买节点绑定版本和浮动许可版本。
可从 AI 优化器专区获取:https://www.xilinx.com/member/ai_optimizer.html
赛灵思 AI 优化器用于优化深度神经网络,实现高效率推断。具体而言,该优化器通过对网络剪枝,减少推理所需的计算量。
用户指南文档 UG1333 讲解剪枝原理以及如何在保持准确性的同时修剪网络。此外,还针对不同任务提供多个网络样本,供用户参考。
AI 优化器的部件编号和标准定价请参阅赛灵思价目表。
辅助材料更新
在 Keras 和 DNNDK v3.0 Tensorflow 内定制 Googlenet/Resnet
赛灵思 Github 提供使用 DNNDK v3.0 TensorFlow 部署定制 Googlenet 和 Resnet 模型的新教程。
所有 CNN 都直接在 Keras 内建模和培训,然后转换成 TF 推断图,再部署到目标板上。您可以以定点方式量化部分定制卷积神经网络 (CNN),使用 Keras 和基于 TensorFlow (TF) 的赛灵思 DNNDK 3.0 工具链,将它们部署到赛灵思 ZCU102 开发板上。
具体介绍请访问以下链接:
https://github.com/Xilinx/Edge-AI-Platform-Tutorials/tree/master/docs/ Keras-GoogleNet-ResNet