导 语:随着物联网的发展和互联设备的不断普及,开发有竞争力的物联网解决方案的最大难题之一就是:将 “智能” 引入边缘设备。
边缘计算在物联网应用中至关重要,因为它是本地基础设施用来加快实时推断的途径。边缘计算能够给总体系统带来可靠性与性能的显著改善。
在边缘计算日渐成为新一代互联设备的基础之际,应注重硬件加速器在决定这类应用的效率方面所发挥的重要作用。硬件组件是核心构建块,所以在开发边缘解决方案时应予以极度重视。
FPGA 技术多年来的长足发展已经让 FPGA 跻身为物联网边缘平台的主流技术。FPGA 性能先进,且能以极低时延提供极高的吞吐量,是边缘应用的理想选择。
上图是 iWave 提供的 Zynq® UltraScale+™ MPSoC FPGA SOM。它为方便快捷地实现图像/语音识别、对象/姿态检测等功能部署提供多功能硬件加速,同时还提供高度灵活的平台,帮助开发者持续优化功能、提升竞争优势。在FPGA中实现神经网络,提供了使应用适配不断变化的行业标准和最终用户需求的灵活性,这又进一步验证了设计。在此外,iWave 还为快速评估 AI/ML 应用提供综合全面的Zynq® UltraScale+™ MPSoC 开发平台(如下所示)。
为什么选择赛灵思?
赛灵思可配置深度学习处理器单元 (DPU) 引擎专为卷积神经网络开发,可加速 AI 推断。
面向机器视觉应用的异构执行环境推断速度快、精度高。
赛灵思 Vitis AI 平台支持多种深度学习框架:Caffe、Tensorflow、Darknet、MXNet。
赛灵思 Vitis AI 编程模型简化在 Zynq 平台上开发和部署深度学习应用的工作。
针对不同的 AI 应用,提供可扩展的器件系列。
赛灵思提供独到的模型优化和模型压缩工具,使神经网络模型的复杂度降低 5 至 50 倍,将 AI 推断性能提升到新高度。
赛灵思 DNNDK、Vitis AI Library 等 AI 软件开发工具为开发工作加速。
赛灵思 FPGA 平台为 AI 边缘计算解决方案提供访问 USB 摄像头、串行数字接口摄像头、互联网协议摄像头以及以太网的便捷接口。
赛灵思 Vitis AI 采用 iWave 提供的 Zynq® UltraScale+™ MPSoC SOM 实现 AI/ML 推
该图显示了运行在 iWave Zynq UltraScale+ MPSoC 开发套件上的一些使用赛灵思Vitis AI 平台的 AI/ML 加速示例。
Zynq UltraScale+ MPSoC SOM 在 ARM® + 赛灵思 FPGA 架构中实现MPSoC 和 FPGA 功能的智能混搭。异构ARM®多核处理器通过高性能的非实时处理(如系统引导、外围设备管理、服务器通信等)补充边缘应用,同时使用 Vitis AI 模型从 FPGA 卸载并执行重要的实时任务。
由于支持多种类型的神经网络,赛灵思 Vitis AI 平台处于持续的演进发展中,不断集成新算法和先进算法,为 AI/ML 应用提高确定性和推断速度。iWave 能够根据各种应用需求,为庞大的 Vitis AI 模型库提供支持。
工业边缘应用示例
智能城市:使用 FPGA 加速和神经网络的组合来执行实时监控和推理的智能平台。
ADAS:能够通过板载 AI/ML 算法生成准确和及时推理结果的实时计算平台。
工业自动化:由 AI 提供支持的智能设备能够感知、连接和计算海量数据流,并开展预测性维护和生成智能、直观的决策。
智能医疗:使用 AI/ML 加速的设备开展实时监控与诊断,完成疾病的早期诊断。
结 论
毋庸讳言,边缘计算凭借极具竞争力的应用,继续推动物联网生态系统的变革。iWave 的赛灵思平台为 AI/ML 推断提供高性能硬件加速,以更低成本、更短交付周期加快创新步伐。
作者:Thasneem Niyaz
技术专栏作者,iWaveSystems 技术成员
来源:赛灵思