机器学习应用提升运算效能 构建eIQ Neutron神经处理单元

先进处理能力和机器学习能力对于下一波边缘应用至关重要。机器学习演示场景在不同的市场和应用领域大不相同，因而需要不同的加速运算性能，在功耗和整体解决方案成本方面也差別迥异。

图一 : 高度可扩展、分区和高能效的机器学习加速器内核架构。

机器学习应用提升运算性能和效能可通过多种方式，其中最有效的是将专门构建的专用神经处理单元（NPU），或称为机器学习加速器（MLA）或深度学习加速器（DLA）整合到器件中，以补充CPU运算核心。

恩智浦提供广泛的产品组合，从传统的Kinetis MCU、LPC系列以及最近的MCX产品系列，到i.MX RT跨界MCU和i.MX应用处理器，我们服务的每一个市场领域，对高效的机器学习运算能力的需求都在增长。为了提供给客户

高度优化的器件，我们开发了eIQ Neutron神经处理单元（NPU）。eIQ Neutron神经处理单元架构，可从我们产品组合中最高效的MCU扩展到功能最强大的i.MX应用处理器。它具有较高的可扩展性，每週期运算频次为数十亿（Giga）到数万亿（Tera），还支援多种神经网路类型（如CNN、RNN、TCN和Transformer网路等），这些要素是成功的秘诀。

图二 : eIQ Neutron神经处理单元架构图

eIQ Neutron神经处理单元提供丰富的选项，使用者可根据内核整合的恩智浦边缘处理器件和产品系列要满足的市场需求加以选择。

‧ 专用的控制器内核

‧ 内联去量化、启动和池化

‧ 内置微缓存，可降低功耗并减少对系统记忆体速度的依赖性

‧ 重量减压引擎

‧ 用于输入和输出的多维DMA，包括跨步、批次处理、交织、级联

‧ 可配置耦合记忆体

除硬体功能和特性外，eIQ Neutron神经处理单元内核还完全受eIQ机器学习软体发展环境的支持。

将恩智浦开发的硬体加速和软体支援相结合，使用者能够利用恩智浦边缘处理产品组合的优势，并保证即使在部署了设备并投入实地使用之后，也能更高效地支援新兴机器学习神经网路、模型和操作员。

（本文作者Ali Ors为恩智浦半导体边缘处理AI机器学习战略技术主管）