一种面向 FPGA 的大模型轻量化部署流程FlightLLM
这里给出一个Vitis总的安装文档
随着高带宽内存（HBM）的发展，FPGA正变得越来越强大，HBM 给了FPGA 更多能力去缓解再一些应用中遇到的内存带宽瓶颈和处理更多样的应用。然而，HBM 的性能表现我们了解地还不是特别精准，尤其是在 FPGA 平台上。这篇文章我们将会在HBM 的说明书和它的实际表现之间建立起桥梁
视频来自 2019年超算大会，赛灵思现场演示了通过 CCIX 协议将赛灵思 Alveo U280 连接到了 Arm Neoverse N1 平台。CCIX 协议可让我们将驻留在 U280 上的内存直接映射到 Arm 主机的 NUMA 存储器映射中。
赛灵思 Alveo™ U280 数据中心加速器卡支持 PCI Express® Gen3 x 16 和 Gen4 x 8，配备 8 GB 高带宽存储器 (HBM2)，旨在加速计算密集型应用，如机器学习、数据分析和视频处理存储器限制、计算密集型应用包括数据库分析和机器学习推断
Xilinx® Alveo™ U280 工程样板 (ES) 数据中心加速器卡旨在满足现代数据中心不断变化的需求。Alveo U280 ES 建立在 Xilinx 16 nm UltraScale™ 架构基础之上，能够以 410 GB/s 的带宽提供 8GB 的 HBM2，从而可为数据库、分析和机器学习推断等内存有限的计算密集型应用提供灵活应变的高性能加速
赛灵思将在 2018 年超级计算大会第 927 号展台上展示 Alveo U280 面向数据库散列连接查询可实现的 8 倍加速，以及搭载 Alveo U200 的戴尔 EMC PowerEdge 服务器。更多展台演示还包括：
展 位 亮 点
> IBM PowerAI 视觉助力实现推断加速
Alveo系列和搭载 U200 的戴尔 PowerEdge 服务器将在 2018 年超级计算大会 （ SC18）上演示