人工智能已成为变革制造、运输、通信和医疗器械等各个市场的前沿技术,在半导体领域,大部分对于AI的关注都集中在GPU或专用AI加速器芯片(如NPU和TPU)上。但事实证明,有相当多的组件可以直接影响甚至运行AI工作负载,FPGA就是其中之一。
更强的并行计算能力、面对不断更新的AI算法时展现出来的架构灵活性、以及对知识产权成果的安全保护,是AI应用选择FPGA的三大主因。多年来,莱迪思(Lattice)半导体还一直致力于开发能够实现这些类型功能的软件工具——从将现有或新构建的AI模型调整为在其低功耗设计上最高效运行的格式,到创建对这些模型最有效的电路和芯片设计,这种完整的闭环系统将极大帮助企业将人工智能功能集成到其设备和其他硬件中。
莱迪思与NVIDIA合作开发的Edge AI解决方案,包括各种传感器和接口的互连、设计可扩展性和低延迟等,大幅简化并加速了需要不同传感器输入接口和协议的智能边缘系统的部署,使开发人员在设计医疗保健、机器人和嵌入式视觉领域的高性能网络边缘AI应用时,能够快速实现从传感器到计算的连接桥接应用程序设计与开发。
这款开源参考开发板基于低功耗的莱迪思CertusPro-NX FPGA和NVIDIA Orin平台,支持低延迟、灵活的传感器配置和接口以及以太网分组器。通过与Nvidia Holoscan传感器桥无缝耦合,该设计提供易于编程的系统控制、可随时使用的可配置FPGA IP,以及利用Nvidia IGX Orin和Orin AGX上的Nvidia Holoscan进行数据采集和处理的全栈解决方案。此外,标准的API接口还支持流式DMA(streaming DMA)、控制接口、传输抽象层、带有GPUDirect RDMA功能的ConnectX Smart NIC加速、Linux套接字(Linux sockets),以及集成各种传感器和驱动程序的能力。
网络边缘设备需要AI解决方案来增强实时在线功能,这包括更强的情景感知能力、更高的能效、灵活和低延迟的传感器桥接、更低的复杂性和简化的集成。
莱迪思通过专为AI优化的低功耗FPGA、莱迪思sensAI解决方案集合和先进的计算机视觉注意力感知软件,为希望提供高质量AI体验的设计人员提供了端到端的解决方案。这种硬件和软件组合支持用户感知智能设备进行AI/ML 模型训练、验证和编译。这些工具还支持超低功耗计算机视觉算法,可延长电池使用时间,保护用户隐私和数据安全性,并且完全可编程。
IDC预测数据显示,2024年将有望成为AI PC快速发展的第一年,预计2024年整体PC市场AI PC占比将达到55%,而2027年将达到85%。
借助莱迪思的解决方案,OEM厂商可以智能边缘应用面向未来,使其适应人工智能创新的快速发展,并获得智能传感、注意力跟踪、旁观者检测和增强硬件安全性等功能。具体而言,通过利用莱迪思sensAI技术,PC可以在用户接近或离开时自动开机/关机,警告用户不要围观,并通过在用户分心时调暗屏幕来延长电池寿命。
由于PC在网络边缘运行,因此设备上的AI必须安全灵活,才能跟上不断变化的环境。莱迪思的AI解决方案增加了一层安全性和隐私性,无需向云端发送任何内容。使用莱迪思的智能传感解决方案时,边缘处理是在传感器旁边完成的,采用硬件实现,而硬件设计经过加密无法更改。在感知模式下,仅共享元数据,视频路径则被完全切断。此外,升级也要经过身份验证,不允许未经授权访问设计。
总体而言,利用莱迪思的AI解决方案,开发人员将能够摆脱对FPGA的传统刻板印象,其强大的低功耗/可编程特性、预构建的IP模块组合/AI模型、高效的设计软件,能够帮助更广泛的人群将人工智能特性和功能集成到更广泛的应用中。
文章来源:Latticesem