APP下载

纯克尔非线性动力学在光学神经元中的应用研究

2024-07-08龙洪亮沈微宏SCHOENHARDTSteffen张启明

光学仪器 2024年3期

龙洪亮 沈微宏 SCHOENHARDT Steffen 张启明

摘要:采用尖峰神经元对神经形态计算进行并行处理,可以克服数字计算机的一些局限性,从而提高计算速度、计算性能和能量效率,实现更高效、更智能和更自适应的计算。超快克尔效应在光子神经形态计算中具有重要的意义和应用。利用改进的归一化耦合模理论(coupledmode theory, CMT)模型,对钙钛矿材料的光学微谐振腔中由超快克尔效应引起的非线性动力学特征进行了计算和分析,观察到自脉动行为;模拟并实现了光学神经元的兴奋性行为、泄露积分动力学和不应期现象。钙钛矿材料具有超快的克尔响应时间,可以将神经元的不应期控制在皮秒量级,为实现快速的脉冲神经网络提供了新思路。

关键词:克尔效应;耦合模式理论;微谐振腔;光学神经元

中图分类号: O 436.1 文献标志码: A

Research on the application of pure Kerr nonlineardynamics in optical neurons

LONG Hongliang1,2,SHEN Weihong1,SCHOENHARDT Steffen1,ZHANG Qiming1

(1. Institute of Photonic Chips, University of Shanghai for Science and Technology, Shanghai 200093, China;

2. School of Optical-Electrical and Computer Engineering, University of Shanghai forScience and Technology, Shanghai 200093, China)

Abstract: Neuromorphiccomputingusesspikeneuronsforparallelprocessing,whichcan overcome limitations of digital computers, thereby improving computing speed, performance, and energy efficiency to achieve more efficient, intelligent, and adaptive computing. The ultrafast Kerr effect has important significance and application in neuromorphic computing. An improved coupled mode theory (CMT) model was employed to analyzed the nonlinear dynamics behaviors in a micro- resonator based on the ultra-fast Kerr response of perovskite materials. Self-pulsation behavior was observed in the optical cavity. Based on this property, the excitation, leaky integrating dynamicsand refractory time of optical neurons were simulated and implemented. Because of the ultra-fast Kerr response of the perovskite material, the refractory time of the optical neuron can be reduced to the order of picoseconds, which paves the way for ultra-fast spiking neural networks.

Keywords: Kerr effect; coupled mode theory; micro-resonator; optical neurons

引言

自从1943年 McCulloch 和 Pitts 正式提出神经元的设计以来,神经形态计算一直是人工智能领域中的一个重要研究方向,它旨在模仿生物神经网络结构和功能[1]。神经形态计算的目标是建立一种类似于生物大脑的系统,包括架构、数据处理方法和功能,并实现比传统计算机更快速、准确的分析数据集的能力,同时使用更少的计算资源[2]。在实现神经形态计算过程中,设计出模拟神经元的硬件具有特别重要的作用。而尖峰神经元则为实现神经形态计算提供了重要的手段,因为尖峰神经元具有快速响应、低功耗等优势,所以它能够更加高效地模拟生物神经元的行为,从而实现更为精确和快速的神经形态计算[3]。因此,基于非线性光学过程的全光尖峰神经元成为近期被深入研究的课题。在光子集成电路中实现神经形态计算具有潜在的优势。与传统的基于电子的计算相比,基于光子的计算具有更快的数据传输率,更低的功耗和更高的计算能力。此外,基于光子学的计算可以利用半导体工业中的制造技术和材料。一般来说,激光器,如具有饱和吸收区域的双截面激光器[4]、垂直腔面发射激光器(vertical-cavity surface-emitting lasers, VCSELs)[5] 和量子点(quantum-dot ,QD)激光器[6]通常用于实现脉冲神经网络(spiking neural network, SNN)中的尖峰神经元。然而,目前提出的光学神经元主要依赖于有源器件的电光调控,在尺寸、功耗、工艺难度上存在一定限制,难以实现大规模的集成神经网络。因此,人们提出了一种新的全光脉冲神经元,通过使用无源光学微谐振腔的非线性特性实现神经元激活特性[7-8]。然而,受限于材料的自由载流子寿命和热弛豫时间,这种神经元的响应速度很慢[9]。

高度非线性的钙钛矿材料,如铌酸锂(lithiumniobite,LN)[10-11]、钛酸钡(barium titanate, BT)[12]显示出高电光非线性,在与互补金属氧化物半导体( complementarymetaloxidesemiconductor,CMOS)兼容平台,如绝缘体上硅(silicon-on-insulator, SOI)或氮化硅(Si3N4)平台共同集成时,可以实现快速和紧凑的调制器[13],这引起了光子学界的注意。同时,这些钙钛矿材料也表现出明显的克尔(Kerr)非线性,并且具有飞秒量级的超快响应速度[14],这使得它成为超快非线性光学尖峰神经元的有力候选者,在模拟尖峰神经元的响应速度方面优于当前所有的竞争方案。

本文研究了具有强 Kerr效应的光学微谐振腔,基于耦合模理论(coupled mode theory,CMT)分析了微谐振腔在仅受 Kerr效应影响下的非线性动力学,在输入光功率高于阈值的情况下观察到自脉动行为。基于此现象,模拟了尖峰神经元的激发行为、泄漏积分动力学和不应期等行为,为实现快速响应的尖峰神经元提供了新思路。

1 耦合模理论

CMT 是一种用于描述复杂非线性系统的理论框架,它不仅有助于人们更好地理解这些系统的动态行为,而且还可以为设计新型微型光学器件和其他高性能器件提供指导,常被用来描述微环[15]、微盘[16]和无源微腔[17]的非线性动态响应。本文仅考虑在纯 Kerr效应驱动下光学微谐振腔的动力学特征,微谐振腔的结构示意图如图1所示。总线波导将输入光和反向扰动光信号耦合进微环谐振腔内,由于材料具有高度的非线性,连续的输入光经过微谐振腔后的输出光,在不同的扰动光信号的调制下会产生不同的脉冲输出。给出了归一化的 CMT 模型,以描述微谐振腔内光 a(t)与频率偏移 n(t)的时间演化,折射率的变化归因于强度的变化。该模型描述了一个由总线直波导和微环形波导组成的微谐振腔中的非线性动力学过程。

式中: jaj2是归一化的腔内能量,±分别代表腔内逆/顺时针方向传播的光; P 是通过总线波导耦合注入到腔内的输入光和扰动信号的归一化功率; n 是因输入光和输入扰动信号引起的频率偏移;δ=(!0-!)/Γ0代表输入光频率!与微腔谐振峰!0的归一化失谐量,其中系数Γ0与光子寿命τc有关;χ= 1 ,是非线性效应的符号,这里取-1; S in是从总线波导注入的输入光的复振幅; Sout 是输出光的复振幅;i是虚数单位;τ是时间常数; k1是波导中的传播系数, k2是波导与微谐振腔的耦合系数, k1和 k2是在给定微谐振腔的光子寿命、 Q 值的情况下,根据临界耦合的约束条件下得到的[18]。为了方便计算求解,式中给出的是归一化 CMT 模型,所有变量均为无量纲参数,通过转换公式[19-21]可将其恢复为现实世界的物理量。值得强调的是,时间 t 是以系数1/Γ0=2Q/!0=2τc 为单位的,其中 Q 、!0和τc 分别代表腔体的总品质因子、谐振频率和光子寿命。该 CMT 模型中非线性频率偏移的时间常数τ=τrΓ0,其表示现实世界中的材料的非线性响应时间τr与光子寿命tc的比值,以帮助分析这两者对纯克尔材料中非线性动力学特征的影响。

输入光功率 Pin = jS inj2,输出光功率Pout = jS out j2。根据式(1)~(3)对光学微谐振腔进行静态和动态分析。

对式(1)进行的数值模拟表明,在特定的情况下,该微谐振器能产生自脉动行为。微谐振器的自脉动行为是指微谐振器在特定工作条件下会产生自我激励的振荡行为。这种行为通常是由于微谐振器的非线性特性所导致的。当微谐振器受到外部激励时,它会在某些频率处产生振荡。如果该振荡频率与微谐振器的本征频率接近,就会引起微谐振器内部的反馈,从而产生自脉动行为。它可以被看作是一种类比于神经元的自发放电现象。因此,微谐振器的自脉动行为可以被应用于构建基于微谐振器的神经元模型,并用于研究神经元之间的信息传递和神经网络的动力学行为。当输入 P+是连续稳定且没有扰动信号输入的时候,令式(1)和式(2)左边等于0,可以得到稳态解,即 P+= ja+j2[1+(δ+χja+j2)2],在此基础上加入微扰项可以很方便地求解得到自脉动功率与时间常数τ的关系。分析可得,τ值在一定范围内[18],微谐振腔才能被一定的注入功率激发产生自脉动行为。τ越接近于0,自脉动行为所需的阈值功率越成指数型增加。 Kerr 效应具有飞秒量级的超快响应时间,τr =70 fs 。为了更好地观察与分析该模型的自脉动行为,取τ=0:02,计算得到相应的光子寿命 tc =1:75 ps,即对应谐振腔 Q =2126, k1=0:602, k2=0:798。如图2所示,δ=4,χ=-1,τ=0:02, Pin =400,微谐振器的归一化腔内能量、频率偏移量和输出功率都随时间成周期性变化,这正是光学谐振腔产生自脉动行为的表现,是模拟光学神经元行为的基础。

2 模拟尖峰神经元的兴奋性行为

基于所讨论的在克尔效应主导下的自脉动现象,光学微谐振腔可以用于模拟被动的尖峰神经元的兴奋行为。研究发现,在正确的激励条件下,光学微谐振腔可以被触发,在其输出信号中表现出尖峰。

当输入一个足够强的触发信号时,微谐振腔会脱离稳定状态,并激发出一个负的输出脉冲。如图3所示,令δ=4, Pin =3,扰动脉冲归一化功率Ptr =50,归一化脉宽Ttr =0:5,所有模式的腔内能量和频率偏移都经历了一个突然的增加,然后慢慢恢复到稳定状态,导致输出功率的负脉冲。尽管微谐振器在被扰动信号激发时发出“负”脉冲,但它仍然可以用来模拟尖峰神经元的基本功能。在 SNN 中,信息以峰值的形式进行编码和传输,尖峰的形状并不重要,尖峰是“正”还是“负”对整个 SNN 的运行也没有影响。此外,只要触发信号的功率大于阈值,输出脉冲的形状就不会改变。这可以很好地模拟尖峰神经元的兴奋性行为。

3 泄露积分动力学

神经元泄露积分行为是指神经元在被亚阈值输入信号激发时,它不会输出一个完整的脉冲信号,而是会慢慢地从亚激发态恢复到稳定状态,当它还没有恢复到稳定状态时若再有一个亚阈值信号输入,它则会被完全激发。该行为是神经元功能的重要组成部分,对神经元的计算能力和信息传递起着重要作用。与泄露积分激活神经元类似,本文提出的基于光学微谐振腔的神经元结构也可以通过集成2个紧密间隔的亚阈值扰动脉冲来实现激发。

为了证明这一行为,令δ=4, Pin =3,Ptr =15,Ttr =0:5。如图4所示,当一个扰动脉冲在t =8时被输入到微谐振器,模式能量和微谐振器中的频率偏移发生了很小的变化。因此,输出功率经历了一个轻微的衰减,然后慢慢恢复到稳定状态。在 t =18时,2个相同的扰动脉冲间隔时间Δt =0:2,被输入到微谐振器。与单脉冲的情况相反,此时输出功率大大衰减,并产生一个明显的负输出脉冲。因此神经元也可以被2个间隔相近的亚阈值扰动脉冲所激发,这就是泄露积分行为的直接证据。此外,在 t =18到 t =19的时间间隔内,模式能量和频移缓慢下降,输出峰值的下降大约在1.1和1.2之间经历了微弱的恢复,这意味着积分过程是泄漏的。此外,2个相同的扰动脉冲对微谐振器有不同的影响,这可以归因于第1个扰动脉冲引起的谐振频率的移动。例如,第1个扰动脉冲将归一化输出功率从1.6衰减到约1.1,而第2个扰动脉冲将归一化输出功率从约1.2衰减到0.82。

4 不应期

在1次激励之后,尖峰神经元将对第2次触发信号不敏感,直到它恢复到稳定状态,这种现象被称为不应期。它对 SNN 中信息的时间编码至关重要,因为它影响了单个尖峰的精确时间和多个输入尖峰的累积时间。当神经元扩展到多层 SNN 时,不应期将限制神经元的最大激活速率,从而影响到整个网络的运行速度。

基于微谐振器的尖峰神经元也具有这种特性,本文所研究的微谐振器能够将不应期控制在皮秒范围内。如图5所示,如果2个输入脉冲之间的时间间隔太短,那么微谐振器将不会对第2个扰动信号做出反应。当δ=4, Pin =3,Ptr = 20,Ttr =0:5,相邻的2个脉冲时间间隔Δt =0:6 时,第2个脉冲不能实现神经元激发,即激活行为被抑制。然而,当时间间隔增加到Δt =3:5时,微谐振器会再次发出一个输出尖峰,这是不应期行为的直接证据。 Kerr 效应的响应时间τr是影响谐振器激励速度的一个关键因素。由上述计算可知,在扰动脉冲功率Ptr =20时,不应期时间Δt =3:5对应的实际时间长度为12.25 ps。因此,受益于钙钛矿材料的快速克尔响应时间,该谐振器的不应期可控制在皮秒量级,为提升 SNN 的计算速度提供了重要支撑。

5 结论

分析了仅由 Kerr效应作用的光学微谐振腔内的非线性动力学特征,基于归一化耦合模式理论方程进行计算分析,在一定的时间常数τ的范围内,微谐振器可以产生自脉动行为。基于此,当输入功率不足以让微谐振器产生自脉动,即处于稳定状态时,通过给微谐振器反方向注入一个扰动信号的方式,模拟并实现了神经元的兴奋性行为、泄露积分动力学和不应期现象。由于钙钛矿材料具有超快的克尔响应时间,可以将神经元的不应期控制在皮秒量级。对于仅受到 Kerr效应影响的非线性材料,尽管该材料的 Kerr 响应时间超快,但同时也存在光子寿命受到限制和Q 值降低的问题,因此需要更高的激活功率,在响应速度和功耗之间取得平衡。这为未来实现快速 SNN 提供了新的思路,并为材料的选择和设计提供了指导。

参考文献:

[1] MCCULLOCH W S, PITTS W. A logical calculus ofthe ideas immanent in nervous activity[J]. The Bulletinof Mathematical Biophysics, 1943, 5(4):115–133.

[2] KRIZHEVSKYA,SUTSKEVERI,HINTONGE.ImageNet classification with deep convolutional neuralnetworks[J]. CommunicationsoftheACM, 2017,60(6):84–90.

[3] PEDRETTIG,MILOV,AMBROGIOS,etal.Memristiveneuralnetworkforon-linelearningandtrackingwithbrain-inspiredspiketimingdependentplasticity[J]. Scientific Reports, 2017, 7(1):5288.

[4] MAPY,SHASTRIBJ,DELIMATF,etal.Simultaneous excitatory and inhibitory dynamics in anexcitable laser[J]. Optics Letters, 2018, 43(15):3802–3805.

[5] ZHANGYH,XIANGSY,GUOXX,etal. Polarization-resolved and polarization-multiplexed spike encoding properties in photonic neuron based on VCSEL-SA[J]. Scientific Reports, 2018, 8(1):16095.

[6] MESARITAKIS C, KAPSALIS A, BOGRIS A, et al. Artificialneuronbasedonintegratedsemiconductor quantum dot mode-locked lasers[J]. Scientific Reports, 2016, 6(1):39317.

[7] CHAKRABORTY I, SAHA G, ROY K. Photonic in- memorycomputingprimitiveforspikingneural networksusingphase-changematerials[J]. Physical Review Applied, 2019, 11(1):014063.

[8] FELDMANN J, YOUNGBLOOD N, WRIGHT C D, et al. All-opticalspikingneurosynapticnetworkswith self-learningcapabilities[J]. Nature, 2019, 569(7755):208–214.

[9] VAN VAERENBERGH T, FIERS M, MECHET P, etal. Cascadableexcitabilityinmicrorings[J]. Optics Express, 2012, 20(18):20292–20308.

[10] WANG C, ZHANG M, STERN B, et al. Nanophotonic lithiumniobateelectro-opticmodulators[J]. Optics Express, 2018, 26(2):1547–1555.

[11] AHMEDANR,SHISY,ZABLOCKIM,etal. Tunablehybridsiliconnitrideandthin-filmlithium niobate electro-optic microresonator[J]. Optics Letters, 2019, 44(3):618–621.

[12] AKISHIGEY,SAWAGUCHIE. Electro-opticKerr effect in hexagonal barium titanate[J]. Japanese Journal of Applied Physics, 1987, 26(S2):123.

[13] KARVOUNIS A, TIMPU F, VOGLER ‐NEULING V V, et al. Barium titanate nanostructures and thin films forphotonics[J]. AdvancedOpticalMaterials, 2020, 8(24):2001249.

[14] SUGITAA,MORIMOTOM,KAWATAY,etal.Ultrafast optical response of Lead lanthanum zirconiumtitanateceramics[C]//Proceedingsof theInternationalConferenceonUltrafastPhenomena.Snowmass,Colorado: OSA, 2010: ThE2.

[15] XIANG J L, TORCHY A, GUO X H, et al. All-opticalspikingneuronbasedonpassivemicroresonator[J].JournalofLightwaveTechnology, 2020, 38(15):4019–4029.

[16] JOHNSONTJ,BORSELLIM,PAINTERO. Self-induced optical modulation of the transmission throughahigh-Qsiliconmicrodiskresonator[J]. OpticsExpress, 2006, 14(2):817–831.

[17] BRUNSTEIN M, YACOMOTTI A M, SAGNES I, etal. Excitabilityandself-pulsinginaphotoniccrystalnanocavity[J]. PhysicalReviewA, 2012, 85(3):031803.

[18] PUCKETT M W, LIU K K, CHAUHAN N, et al.422Millionintrinsicqualityfactorplanarintegratedall-waveguideresonatorwithsub-MHzlinewidth[J].Nature Communications, 2021, 12(1):934.

[19] ARMAROLI A, MALAGUTI S, BELLANCA G, et al.Oscillatory dynamics in nanocavitieswithnoninstantaneous Kerr response[J]. Physical Review A,2011, 84(5):053816.

[20] MALAGUTI S, BELLANCA G, DE ROSSI A, et al.Self-pulsingdrivenbytwo-photonabsorptioninsemiconductornanocavities[J]. PhysicalReviewA,2011, 83(5):051802.

[21] ZHANGLB,FEIYH,CAOTT,etal.Multibistability and self-pulsation in nonlinear high-Qsiliconmicroring resonators considering thermo-opticaleffect[J]. Physical Review A, 2013, 87(5):053805.

(编辑:李晓莉)