多路复用神经元集使更小的光学神经网络成为可能

发布时间:2024-05-31 17:14:10 栏目:生活

    导读 为了提高使用波分复用的光学神经网络的实用性,一个研究小组开发了一种称为多路复用神经元集的结构和相应的反向传播训练算法。利用这些,他

    为了提高使用波分复用的光学神经网络的实用性,一个研究小组开发了一种称为多路复用神经元集的结构和相应的反向传播训练算法。利用这些,他们能够缩小网络规模,从而将能源效率提高 10 倍,同时实现与使用传统算法训练的传统光学神经网络相当的性能。他们的研究于 2024 年 2 月 20 日发表在《智能计算》上,这是一本科学合作期刊。

    光学神经网络比传统的人工神经网络节能得多,因为后者需要大量的计算能力,因此会消耗大量的能源。然而,在使用波分复用进行并行化的光学系统中,通道之间的串扰会降低性能。

    波分复用是一种使用不同波长的信号通过同一连接同时传输更多信息的方法。这些不同的波长是不同的信号通道。以前,通道组合已用于对光学神经网络执行矢量矩阵乘法。在这项研究中,多路复用的神经元集用于压缩属于多个神经元的求和和非线性激活函数。神经元集的功能在不同的信号通道上编码,因此可以通过具有多个波长输入的非线性光学设备来实现,并且可以使用一系列这样的光学设备构建多层网络。

    不幸的是,相邻信道中的信号仍然会相互干扰,从而产生噪声信号。为了减少这种信道间串扰以及由此产生的计算错误的可能性,我们设计了一种将串扰考虑在内的新型反向传播训练算法。

    使用新的反向传播算法,使用手写数字和时尚图像的分类任务评估了多路复用神经元集架构的性能。研究发现,当多路复用量增加时,新方法具有更大的性能优势。同样,功耗的理论分析表明,当多路复用量增加时,网络的多路复用神经元集实现具有更大的效率优势。

    研究人员使用商业上成熟的半导体光放大器实现了他们的方法,但他们的工作“在高度抽象的层面上得到展示”,因此与具有类似特性的其他光子设备以及具有通道间串扰的人工智能辅助光信号处理相关。

免责声明:本文由用户上传,如有侵权请联系删除!