挑 战
随着 AI 功能愈发精准，实时监控 200 万个商用和家用摄像头系统已经成为一种实现其价值的理想应用，但同时也给数据中心带来了沉重负担。而视频分析还代表了另一种需要实时处理的非结构化数据类型。SK 电讯的业务核心是一个名为 AIX 的 AI 推断堆栈，它负责处理从语音识别到视频分析的各种业务，这就需要一个单独的底层计算平台。
SK 电讯的 AI 推断检测服务名为 TView™，可实时监测 200 万个商用和家用摄像头系统，在发生物理入侵的情况时立即派遣安保人员。
AI 技术可以自动探测出可能代表安全漏洞的图像，向户主、安保监控服务公司或执法部门发出告警，提高响应速度。此外，AI 还能使用摄像头图像分析功能，从预先识别的图像中辨认出可能的入侵者，从而降低误报率。而且，借助 AI 还能够更轻松地扫描安全视频资料（如人脸图像或车牌号码），发现蛛丝马迹，从而提高捕获入侵者、起获被盗财物的概率。
然而，通过深度神经网络处理来自数千个摄像头的海量数据，需要功能强大的 AI 加速器提供所需的吞吐量和精度。
图1：本图是 SK 电讯基于 AI 的 Tview 服务的主体结构
使情况更加复杂化的是，SK 电讯打造了一个独立的 AI 推断堆栈，名为 AIX，它要具备处理实时视频分析和实时语音识别分析的能力，而这就需要一个单独的底层计算平台。
解决方案
SK 电讯利用赛灵思 Alveo™ U250 数据中心加速器卡为其实时 AI 推断栈进行加速。相对于 GPU，可将 AI 语音翻译的吞吐量提升 10 倍、能效提升 16 倍，并将视频分析管道（pipeline）吞吐量提升 3 倍多。
SK 电讯成功整合赛灵思 FPGA 并以此对 AIX 推断堆栈进行加速，该推断堆栈负责处理自动语音识别（ ASR ）应用以加速其语音助理 NUGU。在此之后，SK 电讯再度找到赛灵思，希望赛灵思助其对数据中心进行加速。
赛灵思 Alveo™ U250 加速器卡旨在满足数据中心 AI 工作负载对性能与灵活性的需求，相对于 GPU，可将 AI 语音翻译的吞吐量提升 10 倍、能效提升 16 倍，并将视频分析管道（ pipeline ）吞吐量提升 3 倍多。
依托于赛灵思 16nm UltraScale+™ 架构，Alveo 加速器能灵活适应不断变化的算法和加速要求，在不改变硬件的前提下支持特定领域架构（DSA），实现面向一系列工作负载的优化性能，同时降低总拥有成本。
人工智能时代，新型服务正以前所未有的速度进行部署。我们将不断推动云系统的创新，通过在不同环节提供更可靠且高效的服务，为我们的客户创造更大价值。与赛灵思在 AIX 方面的联手合作，代表了 SK 电讯针对 AI 服务简化云系统的一项新成就。———— Park Jin-hyo，SK 电讯 CTO 兼信息与通信技术（ ICT ）研发中心负责人
成效
通过提升数据中心吞吐量与精度，SK 电讯能够在总拥有成本（ TCO ）降低的情况下为更多客户提供基于 AI 的实时安保服务。全部服务都构建在可编程的软硬件平台上，以便应对当今及未来不断演进的工作负载。
运行在 SK 电讯的数据中心服务器上的 Alveo U250 加速器卡，在盗窃检测服务中展现出了极高的吞吐量和精准度，将助力 SK 电讯为更多客户提供基于 AI 的实时安全服务和更可靠的安全防护。
