GPU推理利⽤率不⾜10%？FPGA如何破解⼤模型推理困局
judy 在 周四, 03/05/2026 - 17:19 提交
今天我们用技术视角深度解读：为什么FPGA能做到这些？GPU在LLM推理上遇到了哪些系统性问题？
AI推理
大模型推理延迟太高？试试基于 FPGA 的 Llama 3.1 8B 推理方案
judy 在 周二, 03/03/2026 - 14:21 提交
Achronix 正式推出基于 FPGA 架构的 VectorPath 815 AI 推理设备，专为低延迟场景优化 Llama 3.1 8B 模型推理。
别只盯着H100了：这家西雅图初创公司想用FPGA把AI推理成本打下来50倍
judy 在 周四, 02/26/2026 - 11:09 提交
在硅谷，几乎每周都有新的AI芯片故事上演。但今天这家刚结束隐身期的公司，讲的故事有点“反直觉”。
端侧推理：FPGA正崛起为“非GPU”阵营的中坚力量
judy 在 周一, 01/26/2026 - 10:22 提交
随着AI应用的迅猛发展，端侧推理正受到前所未有的关注。与数据中心对极致吞吐的追求不同，端侧推理更聚焦于低延迟、低功耗与高可靠性
FINN：FPGA AI 推理新范式 —— 定制化、高性能、量化神经网络编译器框架
judy 在 周一, 12/22/2025 - 10:18 提交
FINN 是一个由 Xilinx（现 AMD Research）集成通信与 AI 实验室开源的机器学习框架，它提供了一个端到端的方案，用于探索和实现 量化神经网络（QNN）在 FPGA 上的高效推理加速器
破解 AI 推理瓶颈：AMD 收购 MK1，瞄准企业级算力短板
judy 在 周三, 11/12/2025 - 11:13 提交
在 AI 大模型时代，训练算力固然重要，但 真正掣肘产业落地的往往是推理环节。企业每天处理海量请求，低延迟、高吞吐、成本可控的推理系统，才是 AI 商业化落地的关键。
Zynq US＋ 异构开发平台 Z11-P，让 AI 在边缘即刻落地！
judy 在 周二, 09/09/2025 - 10:20 提交
当前，AI 推理正加速从云端走向边缘。过去，我们依赖云端强大的算力处理 AI 任务；现在，低延迟、高隐私和高能效的应用需求
FPGA/ASIC在AI推理加速中的研究
judy 在 周一, 10/28/2024 - 09:28 提交
今天看的这篇论文，是一篇关于FPGA和ASIC在大模型推理加速和优化方向的综述，我们看下目前的研究进展。
深入解析Altera Agilex 3 FPGA系列：AI推理和安全特性引领嵌入式计算未来
judy 在 周四, 09/26/2024 - 11:15 提交
Altera最新发布的Agilex 3 FPGA系列吸引了行业内广泛关注，这不仅是因为其出色的硬件设计，还在于它针对嵌入式应用提供了高效的AI推理支持和安全保障
HyperAccel 借助 AMD 加速卡与 FPGA 打造全新 AI 推理服务器
judy 在 周四, 06/13/2024 - 17:35 提交
HyperAccel 已经打造出一个快速、高效且低成本的推理系统，加速了基于转换器的大型语言模型（ LLM ）的推理