网刊加载中。。。

使用Chrome浏览器效果最佳,继续浏览,你可能不会看到最佳的展示效果,

确定继续浏览么?

复制成功,请在其他浏览器进行阅读

时滞下忆阻突触耦合Hopfield神经网络的动力学行为分析

  • 马杰
  • 高洁
  • 独盟盟
  • 杨丽新
陕西科技大学 文理学院,西安 710021

最近更新:2021-12-22

DOI:10.6052/1672-6553-2021-025

  • 全文
  • 图表
  • 参考文献
  • 作者
  • 出版信息
EN
目录contents

摘要

本文利用忆阻突触来模拟两个相邻神经元之间膜电位差引起的电磁感应电流,构造了一种时滞下四维忆阻Hopfield神经网络模型.同时研究了此系统的零平衡点稳定性以及失稳时发生Hopf分岔的条件,并分析了不同时滞以及加入固定时滞后不同忆阻耦合强度下系统动力学行为发生的变化.通过数值模拟揭示了丰富的动力学现象,如极限环、混沌吸引子等.

引言

在人工神经网络领域中,Hopfield神经网络一直是一类重要的神经网络模型,并且广泛应用于联想记忆、模式识别、数据储存、保密通信等各个领

1.换个方面,从动力学角度来看的话,Hopfield神经网络模型是一个复杂的非线性系统,有着丰富的动力学行为,而这些丰富的动力学特性对网络有着重要的影2.文献[3]介绍了神经动力学在各个领域的发展及应用,以及利用神经动力学来揭示神经系统中的一些独特现象和规律.

忆阻有着类似大脑神经突触在生物电信号激励下的非线性电学特性,因此,忆阻可被用于模拟突触,并用之来构建忆阻型神经网络.利用忆阻可实现神经网络模型连接权重的可变性,能够有效地模拟神经网络的动力学行

4-6.根据法拉第电磁感应定律,细胞内外的带电离子穿越细胞膜会产生电磁感应效应.因此在传统的神经模型引入磁通变量并研究磁感应对电活动模式的影响更具有实际意义.利用磁控忆阻器来实现神经元磁通量与膜电位之间的耦合,进一步来模拟神经元间膜电位差引起的电磁感应电7.电磁感应在调节神经网络的动态行为中起重要作用,而将忆阻突触引入生物神经网络为揭示人脑神经系统的记忆行为提供有用的线8.

自突触是神经元连接自身的特殊结构,这种自突触通常称为电性自突触,其对神经元膜电位的调制可以表示为Iout=r(x(t-τ)-x(t))r表示反馈增益,τ表示信号传递过程中引发的时滞.电自突触能够影响神经元的放电行为,甚至诱发一类周期性、混沌放电等现象,此外还可以调控神经元网络群体的电活动规律以及神经元之间的迁

9.而神经元之间的信息表达和信息传递是通过动作电位实现的,因此在实现过程中难免会出现延迟的行为,时滞不仅会影响神经元系统的稳定性,而且也会在某些条件下诱发出复杂的动力学行为,故在神经网络中引入时滞具有重要的意10.文献[11]研究了含时滞的忆阻耦合HR神经元系统,讨论了平衡点的局部稳定性以及时滞对神经元系统动力学行为产生的影响.在神经形态中,多稳定性对神经元的记忆以及信息处理都有着显著的影响,因此从动力学角度来阐述系统平衡点的稳定性,有助于深入解释神经动力学方面对脑功能的影响.

本文在文献[

12]的基础上加入时滞,构建了一种由时滞诱发的四维忆阻HNN模型,在两个神经元之间引入了非理想忆阻突触,探究零平衡点处系统的动力学,并且随着时滞增加到一定程度时,系统只会诱导出周期解;分析系统随忆阻耦合强度k产生的动力学行为变化,并且加入固定的时滞改变忆阻耦合强度来与无时滞时不同忆阻耦合强度下系统的动力学行为进行比较,观察系统的动力学行为变化规律;发现在不同的忆阻耦合强度下,系统存在着周期极限环、混沌吸引子等动力学行为.

1 数学模型与稳定性分析

1.1 数学模型

磁控忆阻突触的数学模

12

IEM=W(φ)UEM,W(φ)=kφ,φ˙=UEM-φ, (1)

其中,φ为忆阻内部状态变量,W(φ)=kφ为忆导函数表达式,k为非理想忆阻耦合强度,UEM为神经元之间的膜电位差,IEM为神经元1和神经元2之间膜电位差作用于非理想忆阻突触所产生的磁感应电流.为了简化分析,神经元1和神经元2保留完整的突触连接,非理想忆阻突触耦合位于神经元1和神经元2之间,电自突触位于神经元3上,基于文献[

12]的3神经元HNN,将时滞加于神经元3上,神经元3仅与其他神经元单向连接,则构建的时滞下忆阻突触耦合的4维HNN的表达式为:

x˙1=-x1+a11tanh(x1)+a21tanh(x2)+a31tanh(x3)+kφ(x1-x2)x˙2=-x2+a12tanh(x1)+a22tanh(x2)-kφ(x1-x2)x˙3=-x3+a23tanh(x2)+r(x3(t-τ)-x3)φ˙=x1-x2-φ (2)

其中,xi为第i个神经元的状态,k为非理想忆阻突触的耦合强度,双曲正切函数tanh(xi)表示从第i个神经元电压输入的神经元激活函数,系数aij表示突触权重,也就是表示两个相邻神经元之间的连接强度,r表示电自突触.

图1 基于非理想忆阻型突触的HNN的连接拓扑

Fig.1 Connection topology of HNN based on non-ideal memristive synapse

原点(0,0,0,0)为系统的零平衡点,则在零平衡点附近的线性化系统的特征方程为:

Δ(λ,τ)=λ4+c0λ3+c1λ2+c2λ+c3+(d0λ3+d1λ2+d2λ+d3)e-λτ (3)

其中,

c0=-a11-a22+r+4,
c1=a11a22-a11r-a12a21-a22r-3a11-3a22+3r+6,c2=a11a22r-a12a21r-a12a23a31+2a11a22-2a11r-2a12a21-2a22r-3a11+3r+4,c3=a11a22r-a12a21r-a12a23a31+a11a22-a11r-a12a21-a22r-a11-a22+r+1,d0=-r,d1=a11r+a22r-3r,d2=-a11a22r+a12a21r+2a11r+2a22r-3r,d3=-a11a22r+a12a21r+a11r+a22r-r.

1.2 稳定性与Hopf分岔

为确定系统的稳定性,首先考虑τ=0的情况,当τ=0时,

Δ(λ,τ)=λ4+e1λ3+e2λ2+e3λ+e4

其中,

e1=c0+d0,e2=c1+d1,e3=c2+d2,e4=c3+d3.

根据Routh-Hurwitz判据可知,当Δi>0时系统稳定,其中,

Δ1=e1,Δ2=e1e2-e3,Δ3=-e12e4+e1e2e3-e32,Δ4=-e12e42+e1e2e3e4-e32e4.

τ>0时,若方程(3)有一对纯虚特征根为λ=iw,则

Δ(iw,τ)=w4-c0w3i-c1w2-c2wi+c3+(-d0w3i-d1w2+d2wi+d3)(cos(wτ)-isin(wτ))分离实部与虚部,

PR(w)+QR(w)cos(wτ)+QIsin(wτ)=0PI(w)+QI(w)cos(wτ)-QRsin(wτ)=0 (4)

其中,

PR(w)=w4-c1w2+c3,PI(w)=-c0w3+c2w,QR(w)=-d1w2+d3,QI(w)=-d0w3+d2w,

消去式(4)的谐波项可得到:

QR2(w)+QI2(w)=PR2(w)+PI2(w)

G(w)=-w8+m1w6+m2w4+m3w2+m4=0 (5)

其中,

m1=-c02+d02+2c1,m2=2c0c2-c12-2d0d2+d12-2c3,m3=2c1c3-c22-2d1d3+d22,m4=d32-c32,

式(5)存在正实根,则由式(4)可确定一组临界时滞为τi,j=αi+2jπwi,其中αi[0,2π],满足

cos(αi)=-PI(wi)QI(wi)+PR(wi)QR(wi)QI2(wi)+QR2(wi)sin(αi)=PI(wi)QR(wi)-PR(wi)QI(wi)QI2(wi)+QR2(wi) (6)

则根据微分方程稳定性与分岔理

3可知:当Δi>0时有:

1.若式(5)无正实根,则系统的零平衡点是全时滞局部渐进稳定.

2.若式(5)存在正实根,则存在某个常数τ0>0,使得系统的零平衡点在τ(0,τ0)内是局部渐进稳定的,并且系统在τ=τ0发生Hopf分岔,产生周期运动,其中τ0=min(τi,j).

2 数值算例

取系统参数为a11=-0.1,a12=0.6,a31=0.1, a21=0.15,a22=0.2,a23=0.05,r=-2,k=-0.5.此时经过计算可得Δ1=3.9>0,Δ2=18.436>0,Δ3=53.438>0,Δ4=45.367>0.根据Routh-Hurwitz判据可知,系统的特征根均有负实部,那么零平衡点是局部渐进稳定的.当τ>0时,式(5)可写为:

G(w)=-w8+0.09w6+6.0957w4+7.171499w2+2.165799=0 (7)

解得唯一正实根w=1.73191813,则由式(4)可得相应的一组临界时滞τj=0.605,4.232,...根据定理可知:当τ[0,0.605]时,系统的零平衡点是渐进稳定的,而当τ>0.605时,系统的零平衡点是不稳定的.因此,当τ=0.605时,系统发生了Hopf分岔.

给定初始条件为(1.2,0.5,-1.2,0.3),当时滞τ=0时,系统的响应图(系统的时间序列曲线)如图2所示.由图2可知,当时滞τ=0时,此时系统在零平衡点处是渐近稳定的.当τ=0.55τ=0.606时,系统的响应图如图3所示.由图3(a)可知,在τ=0.55时系统状态收敛到零平衡点;在τ=0.606时,由图3(b)可知系统在零平衡点失去稳定性,出现了振荡,这与定理的结论相一致.

图2 τ=0时的系统响应图

Fig.2 System response graph when τ=0

(a) τ=0.55

(b) τ=0.606

图3 τ=0.55τ=0.606时的系统响应图

Fig.3 The system response diagram when τ=0.55 and τ=0.606

3 时滞和忆阻耦合强度对系统动力学的影响

3.1 时滞对系统在平衡点稳定性的影响

当取系统参数为a11=-1,a12=4a31=-5,

a21=0.5,a22=-2,a23=3r=0.5,k=-0.3时,系统给定初始值为(1.2,0.5,-1.2,0.3),做出不同时滞下系统的时间序列曲线以及x2-x3平面的相图.

图4可知,当时滞τ=0.2时,系统在平衡点(0,0,0,0)是不稳定的,此时系统发生周期振荡.如图5所示,当时滞为τ=0.8时,系统在平衡点(0,0,0,0)是局部渐进稳定的,此时系统响应图也表明系统在平衡点处是局部渐进稳定的.

图4 τ=0.2时的系统响应图

Fig.4 The system response diagram when τ=0.2

图5 τ=0.8时的系统响应图

Fig.5 The system response diagram when τ=0.8

当时滞增加到τ=3.4时,图6的系统响应图与相图表明此时系统在平衡点处是局部渐进稳定的.由图7可知,当时滞τ=10时,系统在平衡点(0,0,0,0)是不稳定的,此时系统发生周期振荡.由图8可知,当时滞τ=13时,系统在平衡点(0,0,0,0)是不稳定的,此时系统为概周期运动.

(a)

(b)

图6 τ=3.4时的系统响应图及在x2-x3平面的相图

Fig.6 The system response diagram when τ=3.4 and the phase diagram on the x2-x3 plane

(a)

(b)

图7 τ=10时的系统响应图及在x2-x3平面的相图

Fig.7 The system response diagram when τ=10 and the phase diagram on the x2-x3 plane

(a)

(b)

图8 τ=13时的系统响应图及在x2-x3平面的相图

Fig.8 The system response diagram when τ=13 and the phase diagram on the x2-x3 plane

故由上可知,系统存在一组临界时滞,当改变时滞时系统在零平衡点处的状态也会有所不同,因此,随着时滞的改变,系统的动力学行为也随之改变.随着时滞从零增大,系统在稳定平衡点、周期运动之间发生有限次切换,相应存在的一系列临界时滞可由式(6)计算可得,并且在时滞增加到某个值之后,系统一直为周期运动.

3.2 时滞下系统随忆阻耦合强度变化的动力学

文献[

12]给出了无时滞时系统在不同忆阻耦合强度下会产生多个不稳定平衡点,说明系统可以产生混沌吸引子,且易产生依赖于状态初值的多稳定现象.若在系统中某个神经元加入固定的时滞,通过改变忆阻耦合强度k来观察系统的动力学行为变化.给定系统参数为a11=1.5,a21=2.8,a22=1.2,a23=-20,a31=0.5,a12=-1.5,r=0.5.由于系统对初值非常敏感,给定系统不同的初值(0,10-4,0,0)与(0,-10-4,0,0),取不同的忆阻耦合强度k,观察两组初值在x1-x3平面相图的变化.

系统无时滞时,图9(a)为忆阻耦合强度k=0时,系统在平面的相图,此时系统存在共存的周期极限环;当忆阻耦合强度k=0.7时,如图9(b)所示,此时系统存在共存的周期极限环和混沌吸引子;当忆阻耦合强度k=-0.4时,如图9(c)所示,此时系统存在混沌吸引子.

(a) k=0

(b) k=0.7

(c) k=-0.4

图9 τ=0时不同忆阻耦合强度下系统在x1-x3平面的相图

Fig.9 Phase diagram of the system in the x1-x3 plane with τ=0 and different memristive coupling strengths

当在系统中加入固定时滞τ=0.5图10(a)为忆阻耦合强度k=0时,系统在x1-x3平面的相图,此时系统存在多周期极限环;当忆阻耦合强度k=0.7时,如图10(b)所示,此时系统存在周期极限环;当忆阻耦合强度k=-0.4时,如图10(c)所示,此时系统存在多周期极限环.

(a) k=0

(b) k=0.7

(c) k=-0.4

图10 τ=0.5时不同忆阻耦合强度下系统在x1-x3平面的相图

Fig.10 Phase diagram of the system in the x1-x3 plane with τ=0.5 and different memristive coupling strengths

(a) k=0

(b) k=0.7

(c) k=-0.4

图11 τ=2时不同忆阻耦合强度下系统在x1-x3平面的相图

Fig.11 Phase diagram of the system in the x1-x3 plane with τ=2 and different memristive coupling strengths

在系统中加入固定时滞τ=2图11(a)为忆阻耦合强度k=0时,系统在x1-x3平面的相图,此时系统存在周期极限环;当忆阻耦合强度k=0.7时,如图11(b)所示,此时系统存在周期极限环;当忆阻耦合强度k=-0.4时,如图11(c)所示,此时系统存在周期极限环.

(a) k=0

(b) k=0.7

(c) k=-0.4

图12 τ=5时不同忆阻耦合强度下系统在x1-x3平面的相图

Fig.12 Phase diagram of the system in the x1-x3 plane with and τ=5 different memristive coupling strengths

但是当时滞增加到τ=5时,此时系统在不同的忆阻耦合强度下的动力学又发生了变化,并且系统由τ=2时存在的周期极限环变为更为复杂的多周期极限环、共存的周期极限环和混沌吸引子.

因此在系统无时滞时,系统的动力学行为是十分丰富的,例如存在混沌吸引子,共存的周期极限环和混沌吸引子等.但是给系统加入固定时滞后,在不同的忆阻耦合强度下系统的动力学行为也发生了改变.

4 总结

本文研究了含有时滞的忆阻突触耦合型Hopfield神经网络,根据特征方程的根分布情况得到了系统在零平衡点处的稳定性以及系统失稳时发生Hopf分岔的时滞条件.探究了时滞以及忆阻耦合强度对系统动力学行为的影响,并通过数值模拟揭示了多种有趣的动力学现象,如混沌吸引子、周期极限环等.

参考文献

1

乔磊茅晓晨.时滞诱发的忆阻型Hopfield神经网络的复杂动力学.动力学与控制学报2019174):384~390 [百度学术

Qiao LMao X C.Delay-induced complicated dynamics of a memristive Hopfiel-d neural network.Journal of Dynamics and Control2019174):384~390(in Chinese) [百度学术

2

王在华胡海岩.时滞动力系统的稳定性与分岔:从理论走向应用.力学进展2013431):3~20 [百度学术

Wang Z HHu H Y. Stability and bifurcation of delayed dynamic system:from theory to ap-plication. Advance in Mechanics2013431):3~20(in Chinese) [百度学术

3

王如彬.神经动力学研究进展.动力学与控制学报2020181):1~5 [百度学术

Wang R B. Research advance in neuro-dynamics. Journal of Dynamics and Control2020181):1~5(in Chinese) [百度学术

4

Pham V TJafari SVaidyanathan Set al. A novel memristive neural network with hidden attractors and its circui-try implementation. Science China Technological Science2016593):358~363 [百度学术

5

王春华蔺海荣孙晶如.基于忆阻器的混沌、存储器及神经网络电路研究进展.电子与信息学报2020424):795~810 [百度学术

Wang C HLin H RSun J Ret al. Research progress on chaos, memory and neural network circuits based on memristor. Journal of Electronics & Information Technology2020424):795~810(in Chinese) [百度学术

6

张鑫夏天叶葱.基于忆阻器实现多样化STDP学习规则的突触电路设计.中国科学技术科学1~10 [百度学术

Zhang XXia TYe Cet al. Realizing diverse STDP learning rules in synaptic circuit based on memristor. Scientia Sinica(Technologica)1~10(in Chinese) [百度学术

7

Chen C JChen J QBao Het al. Coexisting multi-stable patterns in memristor synapse-coupled Hopfield neural network with two neurons. Nonlinear Dynamics2019954):3385~3399 [百度学术

8

Xu FZhang J QJin Met al. Chimera states and synchronization behavior in multilayer memristive neural networks. Nonlinear Dynamics2018942):775~783 [百度学术

9

Ma JSong X LJin W Yet al. Autapse-induced synchronization in a coupled neuronal network. Chaos Solitons & Fractals20158031~38 [百度学术

10

张舒徐鉴.时滞耦合系统非线性动力学的研究进展.力学学报2017493):565-587 [百度学术

Zhang SXu J. Review on nonlinear dyn-amics in systems with coupling delays.Chinese Journal of Theoretical and Applied Mechanics2017493):565~587(in Chinese) [百度学术

11

王松茅晓晨.含时滞的忆阻耦合HR神经元的复杂放电行为.动力学与控制学报2020181):33~39 [百度学术

Wang SMao X C. Complex firing behaviors of a memristive HR neurons with time d-elays. Journal of Dynamics and Control2020181):33~39(in Chinese) [百度学术

12

陈墨陈成杰包伯成.忆阻突触耦合Hopfield神经网络的初值敏感动力学.电子与信息学报2020424):870~877 [百度学术

Chen MChen C JBao B Cet al. Initial Sensitive Dynamics in Memristor Synapse-coupled Hopfield Neural Network. Journal of Electronics & Information Technology2020424):870~877(in Chinese) [百度学术

微信公众号二维码

手机版网站二维码