DNN

在一项坦福、麻省理工和英伟达的多芯片模块研究中，通过地参考信号生成以网格网络连接的36个芯粒组成的深度神经网络加速器，其架构显示出灵活扩展性

DNN加速器的设计一直在两个方面使力：通用架构和高效性能。通用性需要自顶向下的设计，首先综合各种神经网络的算子设计一套标准的指令集，然后根据硬件平台的特点，考察计算资源，存储资源以及带宽，进行硬件的模块化设计，在指令集以及硬件的特殊结构基础上，再去构建工具链。

考虑应用需求的差异，出现了一个关键的趋势。在DNN推理工作负载和硬件加速器架构中是呈多样性和快速演变的。本白皮书概述了算法和架构方面的最新发展，并采取了以下措施看看FPGA是如何融入到这一变化的格局中的。

FPGA可以在根据给定的神经网络拓扑结构调整计算架构方面发挥基本作用，提供使设备适应客户确切环境所需的功能。

本课程介绍如何在边缘计算平台上使用DNN算法、模型、推理、训练以及框架。

深度神经网络（deep nearal network）是机器学习发展20年来取得的最大突破，比如在语音识别方面，相比于传统方法，其将错误率降低了30%；而在2011年的图片识别竞赛上，将错误率从26%降低到3.5%，这些使得处于发展低谷的人工智能突然热门起来，从学术界扩展到工业界，甚至在google的alpha go击败了顶级围棋大师李世石后，人工智能成为全民讨论的热门，所有的程序员都梦想转行机器学习

<font color="#FF8000">作者：张晓帆</font>

美国伊利诺伊大学、IBM中国研究院等的最新研究，提出一种基于FPGA的DNN推理加速器DNNBuilder，获得电子设计自动化领域学术顶会ICCAD的最佳论文。实验证明，DNNBuilder生成的加速器拥有现时最先进的性能和效率，超越了同类加速器。本文带来论文作者的详细解读。

FPGA 编程耗时耗力，即使对专业人员来说也颇有难度。如何才能加速深度神经网络模型在FPGA上的部署？

有没有想过，要是有个能“一键自动生成”FPGA上DNN模型实现的工具就好了？

你还别说，现在还真有一款这样的工具，而且云端和边缘的设备都适用！

相关研究论文获得了第37届电子设计自动化顶会 International Conference on Computer Aided Design（ICCAD）的最佳论文奖。

Xilinx® 深度神经网络 (xDNN) 引擎使用 Xilinx® Alveo™ 数据中心加速器卡提供高性能、低时延、高能效的 DNN 加速。通过保持较低能源成本以及最大限度地减少实现过程中所需的特定加速器的数量，可以显著降低总体拥有成本 (TCO)。

赛灵思 Alveo 加速器卡在高性能、高能效、灵活的机器学习 (ML) 推断方面表现出色。xDNN 处理引擎已被开发用于一般执行卷积神经网络 (CNN)，如 ResNet50、GoogLeNet v1、Inception v4 - 甚至包含自定义层的 CNN。

本白皮书概述了 xDNN 硬件架构和软件堆栈，以及支持“业界一流”高能效推断声明的基准数据。 为读者提供指导，帮助其实现 Alveo 数据中心加速器卡上的结果再创造。