Page 83 - 《应用声学》2022年第1期
P. 83
第 41 卷 第 1 期 王凯等: 水声通信近似 L 0 范数约束的 BP 网络均衡器 79
Ѽх٨ 似。通常神经网络学习过程中每个权值的迭代步长
是相同的,导致了神经网络学习速度过慢,不能满足
Ԧ z -1 Ā 水声信道均衡问题快速收敛的需求。考虑水声信道
ᯠ . . . 的稀疏特性,在代价函数中对输入层到第二层的网
ᣥ
. . .
К z -1 Ā 络权值增加近似L 0 范数约束,以保证权值迭代过程
Y
. . .
. . .
中,权值系数中 0 的个数尽可能多,以此提升整个网
Ā
络的收敛速度。均衡器代价函数设置如下:
Y
Ā
2
Ғ z -1 1 ∑ 2
1
ᯠ Ā J(n) = e (n) + γ w (n)
0 , (6)
i
ᣥ . . . 2 i=1
. . .
К
z -1 . . .
其中,∥·∥ 代表 L 0 范数约束,表示权值中非零值个
0
. . .
数,γ 是调节约束项占比的参数。由于 L 0 范数属于
L֓ L֓ L
V U V Ā U V U
ኄ1ࡏ ኄ2ࡏ ኄL֓ࡏ ኄLࡏ 分段函数,存在断点无法求导,因此通过高斯族连续
图 1 均衡器结构 函数进行近似 [12] :
Fig. 1 Equalizer structure
∑ ∑
w 1
≈ (1 − exp(−δ w 1 ), (7)
数据的前向传输可以表示为 0 ij
i j
V (n) = f(U(n) ), 式(7)中,当δ 趋近于无穷大时等式两边相等,式(7)
l l
(2)
1
U (n) = (W (n)) V (n),
l+1 l T l 对w 求导可得近似L 0 范数的梯度:
l
式(2)中,l = 1, · · · , L − 1,W 代表连接l 层和l + 1
z 11 (n) · · · z 1N 2 (n)
L . . .
层的网络权值,均衡器输出 Y = U ,其中 Y 1 和 Y 2 . . . (8)
Z(n) = . . . ,
分别代表均衡后符号的实部和虚部,将Y 转化为复
(n)
值可得最终均衡后结果Y 1 + Y 2 j。
z N 1 1 (n) · · · z N 1 N 2
令输出误差为 e(n) = D(n) − Y (n),其中 其中,N 1 和 N 2 分别代表第一层和第二层的神经元
T
D(n) = [Re(d(n)) Im(d(n))] ,d(n) 为期望信号, 个数,z ij (n)表示为
代价函数定义为 ∂(1 − exp(−δ w (n) )
1
2 z ij (n) = 1 ij
1 ∑ 2 ∂w (n)
ij
J(n) = e (n). (3)
i
2 1 1
i=1 = δ exp(−δ w (n) )sgn(w (n)). (9)
ij
ij
在权值调整阶段,沿着网络逐层反向对网络权
为降低计算复杂度,对 exp(−δ |w jk (n)|) 进行
l
值进行调整,定义局部梯度∇U 为
一阶泰勒近似:
l
l
l
∇U (n) = ∂f(U (n)) ∗ ((W (n)) ∗ ∇U l+1 (n)),
′
1
exp(−δ w (n)
ij
l = 1, · · · , L − 1,
1 1
l 1 − δ w (n) , w (n) 6 1/δ,
∇U (n) = −2e(n), l = L, (10)
ij ij
≈ 1
(4) 0, w (n) > 1/δ.
ij
则网络权值梯度可以表示为 式(10) 中将模值小于1/δ 的权值定义为模值极
小值权值,1/δ 阈值以下的权值进行收缩调整。1/δ
l
l
l+1
∇W (n) = ∇U (n) ∗ (V (n)) . (5)
′
取值过大会导致均衡器直接将较小的多途项当成
由式(5)根据梯度下降法可以对网络权值进行更新。
噪声项处理,影响均衡器的整体性能;1/δ 取值过小
会导致收缩的权值系数较少,对加速均衡器收敛速
2 近似L 0 -范数约束
度作用不大。假设第l 层神经元个数为N l ,则神经网
神经网络输入层到隐含层是通过多个横向滤 络均衡器输入层到第二层的计算过程可以看作 N 2
波器对接收信息进行处理,结构与常规的均衡器相 个横向滤波器的计算过程,由于每个滤波器初始权