AI效益发威 边缘人工智慧持续进化
物联网设备规模成长，推动边缘运算技术加速发展。边缘AI可以将特殊处理转移到边缘节点，就近将数据提供给终端。这种终端式人工智慧系统，拥有独立处理资料和做出决定的能力...
虽然人工智慧还是有一些缺点，但在今天仍旧对作业品质和生产力带来重大的影响性。无论是医疗保健、国防，还是电子商务，都可以透过人工智慧系统实现大规模的自动化。
另一方面，在物联网设备市场规模呈现指数级成长背景下，各种的大量数据被产生出来，进而推动了边缘运算技术的发展。边缘运算是云端整体运算系统的重要组成部分，可以将部分的特殊处理和数据储存，从云端系统转移到边缘网络节点，而这些节点在物理基础上，可以合理地就近将数据提供给终端使用者。
这种「终端式」的人工智慧系统，不需要连接到云端执行本地的任务和操作。相反，这些单位都拥有独立处理资料，和做出决定的能力。因此，边缘运算是将人工智慧的力量带到单一的设备上，透过内建的微处理器和感测器来获得和处理数据。
边缘计算＋人工智慧＝边缘人工智慧
伴随着边缘运算、人工智慧和物联网的快速发展，使得各种多个智慧网路间连接技术不断地被开发出来，这也被称为Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物联网（图一）。目前，已经有许多企业计画採用边缘运算与人工智慧相结合的方式来提高效率，进而降低生产/服务的整体成本。例如，只要使用设备之间的感测器，或即时视讯传输来获取资料，并提供即时监视能力来预见各种问题，防止因为错误导致代价高昂的损失，或工作场所的伤害。
根据业界推估，目前生产过程中，因为设备的突发性停机所造成的损失，每年约为500亿美元。这也将造成生产能力的降低、出货延误、客户抱怨，以及收入减少。而这时，Edge AI就可以发挥出关键作用。
|
典型的Edge AI导入趋势
在未来，虽然Edge AI的应用，虽然可以帮助企业减轻网络和其他IT基础设施的负荷，并帮助降低营运成本，但仍需依赖硬体和软体的不断改进来获得更先进的系统。
例如，透过工厂生产缐上设备，或连接互联网的摄影系统，可以将即时影像发送给远端的办公室。从单一设备或端点进行数据的传输，以今天的网路技术来说是相当容易的。但是，面对同时传输资料的设备数量增加时，瓶颈挑战就出现了，因为当成千上万组的摄影终端同时进行传输时，不仅影像品质会因为延迟而受到影响，而且维护该传输频宽的成本也会非常高。
不过，现在已经能透过Edge AI克服上述挑战，可以利用设备本身来分析所获得的资料，而不是将资料发送到云端或中央位置，处理完毕之后再分析的结果储存在云端系统后，来产生完整的生产缐监控能力，因此利用终端的力量就可使企业更有效地利用剩馀网路资源。此外，在Edge AI的帮助下，工厂设备更可以在现场执行大部分的分析工作，可以大大减少需要通过网络传输的数据，从而降低因为云端运算所产生的成本、提高分析速度，这就是利用Edge AI的主要优势（图二）。
|
传统上，视觉运算是人工智慧的一个分支，被归纳为基于云端的IT流程。然而，今天处理系统的能力有显着提高之后，推动了视觉运算模式的改变。特別是影像分类和物体识別等神经网路的使用。对于视觉分析结构来说，系统需要两个主要能力：即时执行和快速矩阵计算，目前主流的手法是採用特定应用的数学演算法模型。
而这个数学演算法模型有两种类型的深度学习演算法，分別为：
●一级检测（基于回归的物体检测器），在这种情况下，仅需一次的检测就能完成。
●两级检测（基于分类的物体检测器），检测则需要以两阶段的方式进行。
边缘人工智慧朝向分散式架构转变
基于上述演算法的计算能力，智慧设备和高风险应用（从扩增/虚拟实境（AR/VR）到无人机应用和自动驾驶）等的新发展，已经使基于云端的人工智慧变得不足。这些即时应用无法承受延迟，必须在高可靠性下运行，即使在网路连接中断的情况下，还是可以持续运作。因此这些新的应用引发了研发人员对分散式、低延迟和可靠的人工智慧的巨大兴趣，推动了数据的处理，从基于云端和集中式学习和分析，朝向边缘人工智慧的重大转变。例如：
●学习资料不均匀地分佈在边缘设备的网路上，如网路基地台（BSs）和/或行动设备，包括电话、相机、车辆和无人机等。
●每个边缘设备都能获得极小部分的资料，让学习和分析可以集体进行的。
●每个边缘设备可以相互通讯，并交换学习的模型（例如神经网路），而不是私有数据。
当第一个节点识別出产缐上的产品缺陷时，它会将带有标记ID的影像发送到第二个节点，让该节点有提供额外的处理能力。然后，第二个节点的缺陷检测模组被触发后，就会等待并持有GPU资源来进一步处理。如果在处理过程中沒有发现缺陷，缺陷检测模组会发送一个触发资讯，中止缺陷跟踪程式，并释放第二节点的GPU资源。在第二个节点的过程中，在缺陷检测其间，在云端伺服器中标记了许可权，可以帮助识別对该节点ID的授权使用者。此时，云端只会向检测到缺陷的各个节点的认证使用者发送消息（图三）。
|
使用Edge AI的一些显着优势是：
●可以在所连接的设备上进行本地执行推理，大幅减少了因为资料发送到云端进行预测，所造成的延迟和成本。
●与其将所有资料都发送到云端执行人工智慧分析，不如直接在设备上进行分析，只有在需要特殊处理时才将资料发送到云端。
●以极低的延迟获得分析结果，对于确保一些关键性物联网路能够快速回应，是一件至关重要的事情。
●与基于云端的人工智慧不同，Edge AI具有隐私保护，训练数据不会记录在云端，而是保存在每个设备中，透过获得和整合其他设备运算数据的更新，来学习全局共享模型。
●对大量使用者所产生的数据样本进行学习，这将有助于实现高精确度，甚至可能包括隐私敏感资讯，如医疗记录、工厂/网路运行状态和定位纪录。
Edge AI的应用优势性
现在我们已经看到了Edge AI解决方案，与传统或基于云的计算系统相比的好处，以下是Edge AI一些常见的现实世界的应用。
音讯分析系统
识別音讯输入和处理其中的数据资料，是当今许多设备的两个关键要求。音讯分析可用于各种目的，例如识別和访问管理（IAM），或手机、高级车中的语音控制。深度学习和Edge AI被应用于降噪设备，以协助系统进行各种声音触发，或失效。人工智慧影响音讯分析的另一个例子是，安装在汽车上的事故预防系统，可以透过视觉运算的影像以及声音（甚至在严重的干扰和背景杂音中）来检测接近的车辆，并採取预防措施来保护车内的人员。
此外，人声分析也是音讯分析的一个重要部分。可以透过人工神经网路和自然语言处理（NLP）工具，在语言和关键字识別方面学习基于边缘运算的AI模型，这一功能对于设备执行语音命令要求是很有用的。除此之外，Edge AI也可以实现文字到语音的转换等应用，反之亦然。当然，Edge AI的音讯分析也常被用于人工智慧驱动的聊天机器人。
车用数据处理
Edge AI技术的另一个应用是车用设备的数据收集。由于随着网联汽车的普及，数据利用也呈现多样化和复杂化，例如，对于行车记录器影像数据的需求将增加、发送到云端中心的通讯成本、云端中心的储存成本等。目前可以透过Edge AI技术来作为解决方案。首先，利用在车内的Edge AI将所拍摄的影像中的物体，并且发送到云端。
例如，将招牌和汽车数量等识別结果，先转换成文字画数据，发送到云端中心。接下来，再依据云端中心的识別结果下，车用设备仅发送真正需要的影像数据(b)，可以大幅度降低与数据收集相关的成本，并且可以执行有效的数据收集（图四）。
|
智慧能源系统
互联风力发电站等应用可以透过Edge AI进行概念化和无缝运转。一般来说，如果只使用云端运算系统，运行此类系统的成本将高得惊人。相比之下，利用云端-边缘组合系统进行运算操作、数据获取、管理和处理的成本也可以获得较佳的控制。
风力发电站需要基于终端的解决方案，因为在风力涡轮机附近工作的员工，会利用多个监控摄影镜头、存取感测器、生物识別安全感测器等，来让风力发电站顺利地运转。而这些设备和感测器就必须确保能够有效地运转，并以闪电般的速度来处理相关数据。因此，Edge AI解决方案对于降低风能发电系统的成本，以及减少整体处理时间，和使用的频宽量是很有用的。
视觉娱乐系统
Edge AI也被广泛用于涉及AR、VR和MR的视觉娱乐系统。对于这些类型的系统，数据处理和人工智慧分析就必须在本地完成，达到节省时间和成本。众所周知，AR系统需要使用者佩戴虚拟实境或3D的眼镜，以充分享受其视觉上的沉浸式体验。透过边缘运算和人工智慧技术，进行边缘服务器离缐处理，来达到小眼镜尺寸的目标。
微软的Hololens就是利用Edge AI和运算技术，应用在AR相关娱乐产品。Hololens包括一个整合全息电脑（Holographic Computer）的可穿戴头盔，让使用者沉醉在AR的世界中。未来甚至将会被应用复杂的游戏、数据分析，和医疗成像上。
智慧音箱和家庭助理
诸如亚马逊的Alexa和Google Home这样的智慧家庭助手，在当今依赖人工智慧的世界里很流行。这类设备和系统也是利用Edge AI来提升速度和数据传输，使智慧家居的概念变得更实用化。
结语
人工智慧对于任何一种数位操作来说几乎是完美的。Edge AI採用人工智慧的概念，并在几种不同的方式下改进技术，来达到下一个进化阶段，相信Edge AI的应用将会比现在更加普遍。