MAU加速器

MAU 加速器解决方案

MAU 加速器可实现确定性的低尾时延和高吞吐量,无需在二者之间做权衡。这不仅有助于在给定的时延内使用更高质量的模型,而且还可显著节省基础架构成本并大幅降低能耗。 MAU 加速器运行在 Alveo U250 上,支持基于 ONNX 的行业标准开发流程