Page 83 - 《应用声学》2022年第1期
P. 83

第 41 卷 第 1 期             王凯等: 水声通信近似 L 0 范数约束的 BP 网络均衡器                                      79


                                 Ѽх٨                           似。通常神经网络学习过程中每个权值的迭代步长
                                                               是相同的,导致了神经网络学习速度过慢,不能满足
             Ԧ   z -1               Ā                          水声信道均衡问题快速收敛的需求。考虑水声信道
             ᯠ   . . .                                         的稀疏特性,在代价函数中对输入层到第二层的网
             ᣥ
                 . . .
             К   z -1               Ā                          络权值增加近似L 0 范数约束,以保证权值迭代过程
                                                        Y 
                         . . .
                         . . .
                                                               中,权值系数中 0 的个数尽可能多,以此提升整个网
                                    Ā
                                                               络的收敛速度。均衡器代价函数设置如下:
                                                        Y 
                                    Ā
                                                                                2
             Ғ   z -1                                                         1  ∑  2       
  1
             ᯠ                      Ā                                 J(n) =       e (n) + γ w (n) 
 0  ,  (6)

                                                                                    i
             ᣥ   . . .                                                        2  i=1
                 . . .
             К
                 z -1    . . .
                                                               其中,∥·∥ 代表 L 0 范数约束,表示权值中非零值个
                                                                       0
                         . . .
                                                               数,γ 是调节约束项占比的参数。由于 L 0 范数属于
                                      L֓  L֓   L
                          V   U   V   Ā U    V    U
                          ኄ1ࡏ  ኄ2ࡏ       ኄL֓ࡏ   ኄLࡏ           分段函数,存在断点无法求导,因此通过高斯族连续
                             图 1  均衡器结构                        函数进行近似       [12] :
                         Fig. 1 Equalizer structure
                                                                      
  
    ∑ ∑

                                                                      
 w 1 
  ≈     (1 − exp(−δ w  1  ),  (7)
                 数据的前向传输可以表示为                                              0                       ij
                                                                                i  j
                     
                        V (n) = f(U(n) ),                      式(7)中,当δ 趋近于无穷大时等式两边相等,式(7)
                         l            l
                                                        (2)
                                                                   1
                        U   (n) = (W (n)) V (n),
                         l+1        l    T  l                 对w 求导可得近似L 0 范数的梯度:
                                                                                                  
                                       l
             式(2)中,l = 1, · · · , L − 1,W 代表连接l 层和l + 1
                                                                                z 11 (n) · · · z 1N 2 (n)
                                            L                                     .   .      .    
             层的网络权值,均衡器输出 Y = U ,其中 Y 1 和 Y 2                                     .    .     .          (8)
                                                                      Z(n) =      .     .    .     ,
             分别代表均衡后符号的实部和虚部,将Y 转化为复                                                              
                                                                                                (n)
             值可得最终均衡后结果Y 1 + Y 2 j。
                                                                                z N 1 1 (n) · · · z N 1 N 2
                 令输出误差为 e(n) = D(n) − Y (n),其中                 其中,N 1 和 N 2 分别代表第一层和第二层的神经元
                                        T
             D(n) = [Re(d(n)) Im(d(n))] ,d(n) 为期望信号,           个数,z ij (n)表示为
             代价函数定义为                                                       ∂(1 − exp(−δ w (n) )


                                                                                          1


                                     2                             z ij (n) =        1    ij
                                  1  ∑  2                                         ∂w (n)
                                                                                     ij
                           J(n) =      e (n).           (3)
                                        i
                                  2                                                  1         1


                                    i=1                                  = δ exp(−δ w (n) )sgn(w (n)).    (9)
                                                                                                 ij
                                                                                     ij
                 在权值调整阶段,沿着网络逐层反向对网络权
                                                                   为降低计算复杂度,对 exp(−δ |w jk (n)|) 进行
                                         l
             值进行调整,定义局部梯度∇U 为
                                                               一阶泰勒近似:
             
                  l
                              l
                                        l
             ∇U (n) = ∂f(U (n)) ∗ ((W (n)) ∗ ∇U   l+1 (n)),
                                            ′
             
                                                                              1
                                                                      exp(−δ w (n)
             

                                                                               ij
                                     l = 1, · · · , L − 1,            
             
                                                                             1         1



                 l                                                    1 − δ w (n) ,    w (n) 6 1/δ,
              ∇U (n) = −2e(n),        l = L,                                                             (10)
                                                                              ij        ij
                                                                   ≈                     1

                                                        (4)            0,              w (n) > 1/δ.
                                                                                         ij
             则网络权值梯度可以表示为                                          式(10) 中将模值小于1/δ 的权值定义为模值极
                                                               小值权值,1/δ 阈值以下的权值进行收缩调整。1/δ
                                             l
                         l
                                   l+1
                    ∇W (n) = ∇U       (n) ∗ (V (n)) .   (5)
                                                 ′
                                                               取值过大会导致均衡器直接将较小的多途项当成
             由式(5)根据梯度下降法可以对网络权值进行更新。
                                                               噪声项处理,影响均衡器的整体性能;1/δ 取值过小
                                                               会导致收缩的权值系数较少,对加速均衡器收敛速
             2 近似L 0 -范数约束
                                                               度作用不大。假设第l 层神经元个数为N l ,则神经网
                 神经网络输入层到隐含层是通过多个横向滤                           络均衡器输入层到第二层的计算过程可以看作 N 2
             波器对接收信息进行处理,结构与常规的均衡器相                            个横向滤波器的计算过程,由于每个滤波器初始权
   78   79   80   81   82   83   84   85   86   87   88