新芯片旨在为边缘人工智能提供“所有芯片中最好的内存”
南加州大学的研究人员宣布,忆阻技术取得突破,可以将人工智能的边缘计算缩小到智能手机大小的设备。2023年4月3日作者:杰克·赫兹
随着人工智能不断渗透到我们的日常生活中,对底层硬件的计算需求变得越来越严格。今天,我们最复杂、最大规模的人工智能模型存在于云中,就像ChatGPT背后的模型一样。为了充分释放人工智能的潜力,许多人认为有必要将这些模型推向边缘。实现这一目标需要高度优化、轻量级的人工智能模型以及密集而强大的计算资源的组合。
本周,南加州大学的研究人员发表了一篇新论文,声称可以实现“边缘人工智能芯片中最好的内存”,这在业界引起了轰动。在本文中,我们将讨论边缘人工智能对改进内存的需求,以及南加州大学的新忆阻技术。
南加州大学团队相信,他们的内存发现可以使强大的人工智能算法即使在小型便携式设备上运行。图片由南加州大学维特比工程学院提供
人工智能对更好内存的需求
随着人工智能算法变得越来越复杂,对更快、更高效的内存技术的需求变得越来越重要。然而,传统的存储器技术,如动态随机存取存储器(DRAM)和闪存,由于其容量有限、功耗高、读写速度慢,不适合人工智能应用。
忆阻器的特征在于电荷和通量。图片由CMC提供
人工智能应用的一项有前途的技术是忆阻器,这是一种电阻开关设备,可用于非易失性存储器和神经形态计算。忆阻器具有几个优点,包括高密度、低功耗以及快速读写速度。此外,忆阻器可用于实现神经网络,这对许多人工智能应用至关重要。
为了将人工智能推向边缘,改进的忆阻器技术必须支持高精度编程,并确保大量设备的性能均匀准确。高精度忆阻器对于下载从云训练中获得的突触权重并将其直接编程到忆阻器中至关重要。这将使从头开始训练神经网络模型并将其分布到边缘的数十亿个忆阻神经网络变得切实可行。
忆阻器挑战
忆阻开关器件以其相对较大的动态电导范围而闻名,这可以在器件内实现大量离散的电导水平。单个设备内的这些独特电导水平可能是实现边缘人工智能应用高密度存储器的关键。
用于大规模边缘计算的忆阻神经网络的一种常见方案。图片由Yang等人提供。
尽管理论上可能存在无限数量的电导水平,但迄今为止报道的最高电导水平不超过200个。造成这种情况的一个主要原因是在每个电导水平上发生的器件波动限制了可实现的电导范围。
为了保证在大量忆阻网络中实现一致和准确的性能,开发人员必须能够访问高精度编程。这种能力可以在每个忆阻器件上实现许多可区分的电导水平。
南加州大学解锁2000个忆阻器电导级
本周,南加州大学的研究人员发表了一篇新论文,他们在论文中描述了边缘人工智能应用的忆阻技术的突破。
在发表在《自然》杂志上的论文中,研究人员报告了忆阻器件实现了超过2048个电导水平,这一数字代表了有史以来所有类型存储器中最大的离散电导水平。研究人员发现,通过应用特定的电刺激作为去噪过程,可以显著减少忆阻波动。
电刺激成功地降低了忆阻器的电导水平。图片由Yang等人提供。
利用这种不需要任何额外电路的去噪过程,研究人员成功地将一个商业半导体制造商制造的忆阻器编程为2048个电导级,对应于11位的分辨率。重要的是,这一壮举是在一家商业铸造厂将忆阻器器件完全集成到芯片中实现的,证明了原型的商业可行性。
随着这一初步成功,研究人员希望他们可能已经为大规模人工智能模型在较小的计算平台上运行铺平了道路。