基于Achronix Speedster®7t FPGA器件的AI基准测试
judy 在 周四, 07/04/2024 - 15:48 提交![](https://cdn.eetrend.com/files/styles/picture400/public/2024-07/wen_zhang_/100582526-352113-tu4achronixspeedster7tfpgazhongdaiyoudeerweipianshangwangluo.jpg?itok=GI1A2zqV)
在本文中,我们提出了一种推理引擎的叠加架构,然后在Speedster7t FPGA上实现该架构。
Speedster7t是Achronix推出的一款高性能FPGA产品系列。这些FPGA产品采用了Achronix的专利技术,并在性能、功耗效率和集成度方面提供了领先的解决方案。
在本文中,我们提出了一种推理引擎的叠加架构,然后在Speedster7t FPGA上实现该架构。
将Achronix Speedster7t FPGA与GPU解决方案进行比较,以运行Llama2 70B参数模型并超越LLM推理处理需求。
Bluespec支持加速器功能的RISC-V处理器将Achronix的FPGA转化为可编程SoC
本文以Achronix的Speedster7t FPGA芯片为例来看看技术的演进方向