目前来看，边缘人工智慧（边缘AI）的优势是显而易见。有必要实现即时回应的应用，如安全性敏感应用。要将原始资料传输至云端的通讯成本降至最低。还有要降低耗电量、保护隐私权，并提升多个边缘节点的扩充性。这些需求都可透过边缘装置内的人工智慧 （而非远端云端服务） 获得最佳满足。


然而，我们目前所知的边缘应用无法透过单一 AI 引擎提供。家电只需辨识一组简单的语音指令或食物容器上的图片。更为精密复杂的监控系统或工业机器人系统则可能要融合多种输入来源，包括影像感测器、麦克风、动作感测器等。高阶的自动或半自动驾驶辨识系统需使用非常精密的深度神经网路（DNN）。CEVA SensPro2 与 NeuPro-M 平台皆涵盖这些应用范围。


边缘 AI 的市场

边缘AI处理器晶片的市场预期从现在至未来十年的复合年增长率（CAGR）约为20%。智慧型装置的採用/演进将是重要驱动力，例如越来越多消费者购入摄影机、穿戴式装置和居家自动化系统、汽车业致力于强化安全和自主性，以及业界越来越重视监控系统、机器人、机器/工厂控制和预测性维护系统等。


在这些领域中，最可能成功的产品必然要具备相关功能与效能，才能满足所需应用的辨识需求。这类产品必须符合消费者物价及/或具有成本效益规模，而且应将现有无缐基础架构的递增负载降至最低。此外，它们也必须为可升级的软体，才能在快速演变的 AI 技术领域中适应新兴的解决方案。


感测器融合及SensPro2

现在几乎连最简单的智慧边缘装置也採用多个感测器。整合来自两个或更多感测器的资讯，往往可让智慧系统提供更高的准确度或辅助资讯。例如在自动路边平行停车或自动代客停车时，若是用视觉感测或雷达侦测可用空间，再结合远距超音波侦测或IMU输入，即可进一步提升定位预估值。这些功能或可搭配SLAM协助在停车场内导航，从而实现自动代客停车。


CEVA SensPro2感测器中枢DSP适合于感测器中枢/融合应用。SensPro2是第二代CEVA 感测器中枢DSP，可提供多重感测器输入：影像、麦克风、雷达、飞行时间、IMU等。软体式的类神经网路在此DSP架构上能快速执行，这要归功于丰富的硬体支援功能，包括具有弹性 MAC操作范围的向量单位、整数与浮点运算支援、应用程式专用ISA延伸功能，以及全方位非缐性指令集。透过这些功能，SensPro2相较于上一代的 SensPro来说，AI 效能最多高2倍、SLAM速度快 6倍、雷达速度快8倍，且音讯速度也快10倍。


边缘人工智慧已透过SensPro2部署于SoC中，支援广泛的消费者应用，例如最近发佈的新Novatek监控 SoC版本。


DNN智慧与 NeuPro-M

高阶的边缘智慧需要深度神经网路（DNN）支援，动用高度的平行处理和频宽最佳化及异质加速器，才能驱动最新的 AI 演算法。


自动驾驶/半自动驾驶的可用空间侦测，便是首个需求的绝佳应用范例。可用空间侦测是为了找出道路/高速公路上的安全驾驶区域，藉此避开障碍物、对向车道以及未经舖设的路肩和分隔岛。由于反应时间必须快速，前方道路的影像会分割成 4 个子画面并进行平行处理。每个子影像上皆会执行可用空间侦测，最后重新整合以提供完整结果。NeuPro-M 针对这类边缘应用上的人工智慧最多支援 8 个平行引擎。


准确度与效能期望并不仅满足于平行处理。现在硬体在 NeuPro-M中获得加速，网路开发人员因此想充分运用多项专用功能，举凡矩阵分解、稀疏处理、Winograd和混合式精密类神经操作等功能，均可在每个平行引擎中使用。NeuPro-M系统已部署于多个设计中的 SoC，预计在未来几年将逐渐在终端产品中出现。


AI解决方案具前瞻性

在标准 CPU 或 GPU 上执行的纯软体 AI 解决方案效率太低且太耗电，导致实用度不佳，但在理论上极具吸引力，毕竟客户可视需要随时变更软体，同时无须更换硬体。


随着 AI 技术与网路层越来越进步，我们能否既享硬体加速的所有效能和耗电优势，同时保留升级的弹性？只要搭配使用 SensPro2 与 NeuPro-M，这件事就有可能。


这些 AI 解决方案的向量 DSP 基础，可随着市场需求与网路发展来升级软体中的产品实作。CEVA Deep Neural Network （CDNN）AI 编译器可简化从标准网路（TensorFlow、PyTorch 等）实作至处理器 IP 的对应作业，实现宛如在特定 SoC 中实作的效果。并且可以在此步骤中控制最佳化，藉此充分利用特殊加速器的优势，例如 NeuPro-M 中的加速器，或是新增自行设计中可能需要的其他加速器。这些延伸功能可透过 CEVA 的 CDNN 邀请 API 加以支援。


（本文作者Moshe Sheier为CEVA营销副总经理）