Доклады Российской академии наук. Математика, информатика, процессы управления, 2023, T. 514, № 2, стр. 28-38

ОПТИМИЗАЦИЯ ФИЗИКО-ИНФОРМИРОВАННЫХ НЕЙРОННЫХ СЕТЕЙ ДЛЯ РЕШЕНИЯ НЕЛИНЕЙНОГО УРАВНЕНИЯ ШРЕДИНГЕРА

И. А. Чупров 1*, Ц. Гао 1**, Д. С. Ефременко 1, Е. А. Казаков 1, Ф. А. Бузаев 1, В. В. Земляков 1

1 Московский исследовательский центр Huawei (Huawei Moscow Research Center)
Москва, Россия

* E-mail: chuprov.ivan@huawei.com
** E-mail: gaojiexing@huawei.com

Поступила в редакцию 01.09.2023
После доработки 15.09.2023
Принята к публикации 15.09.2023

Аннотация

Физико-информированные нейронные сети (Physics Informed Neural Networks – PINN) являются перспективным методом решения уравнений в частных производных с помощью машинного обучения. В работе рассмотрено применение PINN к нелинейному уравнению Шредингера для описания распространения сигнала в оптическом волокне. Исследуются факторы, определяющие сходимость PINN с физической точки зрения. Получены оценки области сходимости метода по длине волокна и энергии импульса. Показано, что применение синусоидальной активационной функции, а также весов для слагаемых функции потерь позволяет увеличить область сходимости PINN относительно длины волокна и энергии импульса. Произведено обобщение метода (мета-PINN), позволяющее решать уравнение при различных его параметрах с помощью предобученной нейронной сети.

Ключевые слова: физико-информированные нейронные сети, нелинейное уравнение Шредингера, нелинейная волоконная оптика, тонкая настройка нейронных сетей

Список литературы

  1. Kollmannsberger S., D’Angella D., Jokeit M., Herrmann L. “Physics-Informed Neural Networks”. B: Deep Learning in Computational Mechanics. Springer International Publishing, 2021. P. 55–84. https://doi.org/10.1007/978-3-030-76587-3_5

  2. Markidis S. “The Old and the New: Can Physics-Informed Deep-Learning Replace Traditional Linear Solvers?” B: Frontiers in Big Data 4. 2021. issn: 2624-909X. https://doi.org/10.3389/fdata.2021.669097

  3. Govind P Agrawal. Fiber-Optic Communication Systems. Wiley, 2021. https://doi.org/10.1002/9781119737391

  4. Monterola C., Saloma C. “Solving the nonlinear Schrodinger equation with an unsupervised neural network”. en. B: Opt. Express 9.2. 2001. P. 72–84.

  5. Raissi M., Perdikaris P., Karniadakis G.E. “Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations”. B: Journal of Computational Physics. 2019. V. 378. P. 686–707.

  6. Chuprov I., Efremenko D., Gao J., Anisimov P., Zemlyakov V. Scaling transformation of the multimode nonlinear Schrödinger equation for physics-informed neural networks. 2022. arXiv: 2209.14641 [cs.NE].

  7. Karniadakis G.E., Kevrekidis I.G., Lu Lu, Perdikaris P., Wang S., Liu Yang. “Physics-informed machine learning”. en. B: Nat Rev Phys 3.6. 2021. P. 422–440.

  8. Xiaotian Jiang, Danshi Wang, Qirui Fan, Min Zhang, Chao Lu, Alan Pak Tao Lau. “Solving the Nonlinear Schrödinger Equation in Optical Fibers Using Physics-informed Neural Network”. B: 2021 Optical Fiber Communications Conference and Exhibition (OFC). 2021. P. 1–3.

  9. Jagtap A.D., Karniadakis G.E. “Extended Physics-Informed Neural Networks (XPINNs): A Generalized Space-Time Domain Decomposition Based Deep Learning Framework for Nonlinear Partial Differential Equations”. B: Communications in Computational Physics 28.5. 2020. P. 2002–2041. https://doi.org/10.4208/cicp.oa-2020-0164

  10. Lee J.D., Simchowitz M., Jordan M.I., Recht B. Gradient Descent Converges to Minimizers. 2016. eprint: arXiv:1602.04915.

  11. Shamsulhaq Basir, Inanc Senocak. “Critical Investigation of Failure Modes in Physics-informed Neural Networks”. B: AIAA SCITECH 2022 Forum. American Institute of Aeronautics и Astronautics, 2022. https://doi.org/10.2514/6.2022-2353

  12. Yeonjong Shin. “On the Convergence of Physics Informed Neural Networks for Linear Second-Order Elliptic and Parabolic Type PDEs”. B: Communications in Computational Physics 28.5. 2020. P. 2042–2074. https://doi.org/10.4208/cicp.oa-2020-0193

  13. Grossmann T.G., Komorowska U.J., Latz J., Carola-Bibiane Schönlieb. Can Physics-Informed Neural Networks beat the Finite Element Method? 2023. arXiv: 2302.04107 [math.NA].

  14. Yubin Zang, Zhenming Yu, Kun Xu, Minghua Chen, Sigang Yang, Hongwei Chen. “Universal Fiber Models based on PINN Neural Network”. B: Asia Communications and Photonics Conference 2020. M4A.266. OSA. 2020.

  15. Sifan Wang, Xinling Yu и Paris Perdikaris. “When and why PINNs fail to train: A neural tangent kernel perspective”. B: Journal of Computational Physics 449. 2022. P. 110768. https://doi.org/10.1016/j.jcp.2021.110768

  16. Xiaotian Jiang, Danshi Wang, Xue Chen, Min Zhang. “Physics-Informed Neural Network for Optical Fiber Parameter Estimation from the Nonlinear Schrödinger Equation”. B: Journal of Lightwave Technology. 2022. P. 1–11. https://doi.org/10.1109/jlt.2022.3199782

  17. Tao Luo. “Theory of the Frequency Principle for General Deep Neural Networks”. B: CSIAM Transactions on Applied Mathematics 2.3. 2021. P. 484–507. https://doi.org/10.4208/csiam-am.so-2020-0005

  18. Nasim Rahaman, Aristide Baratin, Devansh Arpit, Felix Draxler, Min Lin, Fred A. Hamprecht, Yoshua Bengio, Aaron Courville. On the Spectral Bias of Neural Networks. 2019. arXiv: 1806.08734 [stat.ML].

  19. Kazakov E., Jiexing Gao, Anisimov P., Zemlyakov V. “Parallelization of the Generalized Multimode Nonlinear Schrödinger Equation Solver: A Performance Analysis”. B: Communications in Computer and Information Science. Springer Nature Switzerland, 2023. P. 137–151. https://doi.org/10.1007/978-3-031-38864-4_10

  20. Jian Cheng Wong, Chinchun Ooi, Abhishek Gupta, Yew-Soon Ong. “Learning in Sinusoidal Spaces with Physics-Informed Neural Networks”. B: IEEE Transactions on Artificial Intelligence. 2022. P. 1–15. https://doi.org/10.1109/tai.2022.3192362

  21. Sifan Wang, Hanwen Wang, Paris Perdikaris. “On the eigenvector bias of Fourier feature networks: From regression to solving multi-scale PDEs with physics-informed neural networks”. B: Computer Methods in Applied Mechanics and Engineering 384. 2021. P. 113938. https://doi.org/10.1016/j.cma.2021.113938

  22. Hager Ch., Pfister H.D. “Deep Learning of the Nonlinear Schrödinger Equation in Fiber-Optic Communications”. B: 2018 IEEE International Symposium on Information Theory (ISIT). IEEE, июнь 2018. https://doi.org/10.1109/isit.2018.8437734.

  23. Xiaotian Jiang, Danshi Wang, Xue Chen, Min Zhang. “Physics-Informed Neural Network for Optical Fiber Parameter Estimation from the Nonlinear Schrödinger Equation”. B: Journal of Lightwave Technology. 2022. P. 1–11. https://doi.org/10.1109/jlt.2022.3199782

  24. Psaros A.F., Kawaguchi K., Karniadakis G.E. “Meta-learning PINN loss functions”. B: CoRR abs/2107.05544 (2021). arXiv: 2107.05544.

Дополнительные материалы отсутствуют.

Инструменты

Доклады Российской академии наук. Математика, информатика, процессы управления