导读

近日，上海交通大学区域光纤通信网与新型光通信系统国家重点实验室的义理林教授团队提出一种针对高速光纤通信系统的可学习数字信号处理（LDSP）技术，将传统数字信号处理（DSP）模块视为深度学习框架中的可学习结构，通过全局优化大幅提升了光纤通信系统线性损伤的补偿效果。打破了学术界通常认为当前DSP已经实现光纤通信系统线性效应完全补偿的认知，有望成为高速光纤通信系统的线性补偿新基准，为非线性补偿算法的性能评估奠定了基础。

该工作以“Learnable Digital Signal Processing: A New Benchmark of Linearity Compensation for Optical Fiber Communications”为题发表在Light: Science & Applications。

研究背景

光纤通信技术的迅速发展为现代信息社会提供了强大的技术支持。随着数据传输需求的不断增加，如何在现有光纤通信系统中实现更高的传输容量，成为了研究人员关注的重点。然而，光纤通信系统中的各种线性和非线性效应严重限制了信号的传输质量。传统的数字信号处理（DSP）技术是分模块设计的，虽然在补偿各种线性效应方面已经成熟，但这种逐块最优化设计可能导致局部最优。在这种情况下，非线性补偿的性能可能由于线性残余干扰而不准确，从而影响非线性补偿算法的设计和性能评估。因此，全局优化线性DSP性能，为非线性补偿提供准确的评估基准，对大容量光传输至关重要。

图1 ：光纤通信技术

此外，在实际应用中，更高性能的补偿往往意味着更大的复杂度，而复杂度的增加则会带来更高的功耗和更大的设备体积，不利于系统的集成和推广。在这种背景下，如何在保持低复杂度的同时，提高DSP的补偿性能，成为了光纤通信领域研究的一个重大挑战。

可学习的DSP框架

为了克服上述难点，研究团队提出了一种新型的DSP框架——可学习的DSP（LDSP）。该方案在保持传统DSP框架的基础上，融入了深度学习的优化框架。LDSP复用了传统DSP的模块，设定各个模块的参数是可学习的，进一步通过深度学习的优化算法，从而实现全局最优。具体而言，LDSP是分块进行处理，在处理每个信号块时，各个DSP模块通过反向传播算法计算梯度，使用随机梯度下降算法对参数进行优化，如图2所示。

图2 ：LDSP原理

技术上，LDSP是一种具有在线训练功能的DSP框架，结合了光通信以往的先验知识和数据驱动的优势。通过这种方式，LDSP中的各个补偿模块能够借助梯度共享处理信息，全面利用DSP资源进行损伤补偿，提升传输性能。研究人员在400Gb/s速率下1600公里光纤传输的实验，LDSP在单通道和21通道传输的Q因子性能分别提高了约0.77dB和0.56 dB，结合非线性补偿，性能提升分别可达1.21dB和0.9dB。这是一种新的算法处理范式，有变革光纤通信中DSP方案的潜力，更重要的是，它展示了传统线性DSP仍有提升的空间，为光纤通信的非线性补偿设立了新的基准。

LDSP可以在一个模块中实现多种不同的功能，展示了其高效性。例如，频域补偿模块可以同时补偿IQ skew、激光器频偏和色散等效应。进一步地，通过IQ skew的数值能够检测采样误差，从而降低对时钟恢复模块的需求，节省DSP资源。此外，功率归一化模块可以对星座图进行对齐，其偏置可以检测到DAC的时钟泄漏现象。学习到的IQ skew与归一化偏置如图3所示。

图3：LDSP学习到的参数特征

在传统的DSP系统中，各个模块的参数是固定的，需要根据实际情况进行手动调整，这不仅增加了系统的复杂度，还可能导致补偿效果不佳。而在LDSP中，这些参数是可学习的，可以通过反向传播算法进行自适应优化。LDSP能够在保证高性能的同时，还能够实现符号速率的信号处理，降低系统复杂度，使其更加适用于实际应用。

前景展望

LDSP技术通过结合传统DSP和深度学习的优势，实现了光纤通信中线性和非线性效应的高效补偿，标志着光纤通信技术的一个重要里程碑。通过全局优化，LDSP在保证高性能的同时，降低了系统复杂度，使其更加适用于实际应用。该研究不仅为未来的光纤通信发展提供了新的思路，也为光纤非线性补偿建立了新的基准，有望推动这一领域的快速发展。（来源：中国光学微信公众号）

相关论文信息：https://doi.org/10.1038/s41377-024-01556-5