受巴甫洛夫的启发,研究人员利用光为人工智能带来经典条件反射
牛津大学的一个团队从巴甫洛夫的狗身上汲取灵感,设计了一个基于光子学的神经网络。2022年8月20日,作者Ikimi.O
受19世纪初巴甫洛夫经典条件反射实验的启发,牛津大学的研究人员最近开发了一种片上光学处理器,该处理器可能为人工智能(AI)和机器学习(ML)的空前进步打开大门。
监督片上硬件的学习。图片由Optica和Tan等人提供
牛津大学声称其新系统提供了先进的数据集相似性检测。与在电子处理器和传统神经网络上运行的传统机器学习算法不同,牛津大学的系统在无反向传播的光子网络上运行,并利用巴甫洛夫联想学习。
从巴甫洛夫的狗身上寻找灵感
经典条件反射是将两种感觉刺激联系起来以获得相同反应的过程。这个过程包括感觉神经元和运动神经元。当感觉神经元接收到感觉信号时,运动神经元产生感觉密集的动作。
伊凡·巴甫洛夫在20世纪初发现了这一概念,他观察到,当他教狗将铃声与食物联系起来时,他可以诱导狗流涎。联想学习过程将刺激联系起来s2.(即铃声)与自然刺激s1.(即食物的视觉或气味)来触发狗的相同反应(即流涎)。
巴甫洛夫联想学习。图片由Optica和Tan等人提供
牛津大学的研究人员将这一概念应用于具有两个关键作用的简化神经回路:1)融合和关联两个输入;2)存储这些关联的记忆以供日后参考。这项研究的核心是一种叫做联想一元学习元素(AMLE)的东西。AMLE包括一种有效执行经典条件反射的基本联想学习过程以提高AI/ML的设备。
关于联想mondic学习元素
AMLE将相变材料薄膜与两个耦合波导集成,以实现联想学习。材料(锗2.某人2.Te公司5.(GST))有效地调制波导之间的耦合。GST以非晶态或晶态两种状态存在,影响波导之间的耦合量。
在结晶状态下,刺激s1.和s2.没有表现出任何形式的关联。然而,当刺激(或输入)同时到达时,它们开始关联,导致非晶化的GST。GST非晶化越多,刺激就越多s1.和s2.关联,产生几乎无法区分的输出,称为学习阈值。AMLE使用光子联想学习来提供一个独特的机器学习框架,用于解决一般的学习任务。
学习前后AMLE的电场分布。图片由Optica和Tan等人提供
AMLE消除了反向传播,提高了计算速度
传统的神经网络密集型人工智能系统在学习过程中需要大量的数据集,这导致了处理和计算成本的增加。这些传统的神经网络利用反向传播来实现高精度的人工智能学习。
根据牛津大学的说法,AMLE消除了反向传播的需要,使用记忆材料来学习模式并将数据集中的相似特征关联起来。无反向传播技术带来更快的AI/ML模型训练。例如,虽然传统的基于神经网络的人工智能系统在用多达10000张兔子/非兔子图像训练其模型后识别兔子,但无反向传播技术(AMLE)可以在显著降低处理和计算成本的情况下,用五对兔子/非兔兔图像对获得类似的结果。
图像测试网络是否可以对猫和非猫的图像进行分类。图片由Optica和Tan等人提供
AMLE还利用波分复用实现更快的计算速度。这种能力使AMLE能够在各种基于单信道的波长上发送多个光信号,从而消除反向传播。AMLE使用光来发送和接收数据,这一过程被称为并行信号处理,从而产生更高的信息密度和更快的模式识别速度。
AMLE研究的合著者程教授表示,虽然这种新开发的设计不能完全取代传统的神经网络,但它可以补充它们。在大容量和更简单的数据集学习任务中,AMLE设备显著加快了光学处理。
在光子平台上构建AMLE
牛津大学的研究人员在光子平台上实现了AMLE。使用该平台,该团队展示了无反向传播的单层权重人工神经网络架构的可行性和有效性。
研究人员观察到,如果以已经建立的光学延迟同时施加输入,那么将两个不同的输入相关可以产生类似的输出。这些输入之间的关联可以允许多个数据流的关联,包括单个元件上的各种波长,特别是在没有光信号干扰的情况下。
牛津大学表示,这项研究可能会为下一代机器学习算法和架构创新奠定基础。