Alveo-U280

一种面向 FPGA 的大模型轻量化部署流程FlightLLM

随着高带宽内存（HBM）的发展，FPGA正变得越来越强大，HBM 给了FPGA 更多能力去缓解再一些应用中遇到的内存带宽瓶颈和处理更多样的应用。然而，HBM 的性能表现我们了解地还不是特别精准，尤其是在 FPGA 平台上。这篇文章我们将会在HBM 的说明书和它的实际表现之间建立起桥梁

视频来自 2019年超算大会，赛灵思现场演示了通过 CCIX 协议将赛灵思 Alveo U280 连接到了 Arm Neoverse N1 平台。CCIX 协议可让我们将驻留在 U280 上的内存直接映射到 Arm 主机的 NUMA 存储器映射中。

赛灵思 Alveo™ U280 数据中心加速器卡支持 PCI Express® Gen3 x 16 和 Gen4 x 8，配备 8 GB 高带宽存储器 (HBM2)，旨在加速计算密集型应用，如机器学习、数据分析和视频处理存储器限制、计算密集型应用包括数据库分析和机器学习推断

Xilinx® Alveo™ U280 工程样板 (ES) 数据中心加速器卡旨在满足现代数据中心不断变化的需求。Alveo U280 ES 建立在 Xilinx 16 nm UltraScale™ 架构基础之上，能够以 410 GB/s 的带宽提供 8GB 的 HBM2，从而可为数据库、分析和机器学习推断等内存有限的计算密集型应用提供灵活应变的高性能加速

赛灵思将在 2018 年超级计算大会第 927 号展台上展示 Alveo U280 面向数据库散列连接查询可实现的 8 倍加速，以及搭载 Alveo U200 的戴尔 EMC PowerEdge 服务器。更多展台演示还包括：

<strong>展 位 亮 点</strong>
> IBM PowerAI 视觉助力实现推断加速

该演示将展示简化的计算机视觉。了解如何在集成 Xilinx ML 套件进行推断的同时，在 IBM Power 系统上训练和部署模型。

> 高密度计算服务器中的推断加速

该演示将展示一款密集的 AMD EPYC 服务器，其支持多达 8 个 Alveo U200/U250 加速卡，可为计算密集型应用实现最高的自适应计算密度。该系统还配备了一款超微主板。 该系统可用来加速基因组学、视频、大数据以及金融等领域的应用。

> 支持计算存储的大数据分析

<font color="#FF8000">Alveo系列和搭载 U200 的戴尔 PowerEdge 服务器将在 2018 年超级计算大会 （ SC18）上演示</font>

赛灵思公司（Xilinx, Inc.，(NASDAQ:XLNX)）今天宣布推出近期刚面市的 Alveo™ 数据中心加速器卡产品组合的最新成员 Alveo U280。Alveo U280 卡将提供全新功能，包括支持高带宽存储器 (HBM2) 和最前沿的高性能服务器互联功能。此外，赛灵思同时还宣布戴尔 EMC 成为首家获得Alveo U200 加速器卡的服务器厂商。通过提供Alveo U200 加速器卡，戴尔 EMC将支持客户通过选定的戴尔 EMC PowerEdge 服务器加速各种关键 HPC 工作负载和其他工作负载。Alveo 是一类功能强大的加速器卡产品组合，旨在大幅提升从云端到本地数据中心使用的行业标准服务器的性能。