PIRBN模型复现
wangguan1995 opened this issue · 0 comments
wangguan1995 commented
需求描述 Feature Description
难度:★★★★☆
1. 背景
物理信息神经网络(PINN)在计算力学方向有越来越多的进展。首先通过神经正切核(NTK)理论研究 PINN 的训练动态。 根据数值实验,Queensland University of Technology LAMSE实验室发现:
- PINN 在训练期间往往是局部逼近器
- 对于无法成为局部近似器的 PINN,物理信息损失很难通过训练最小化
受其他研究结果的启发, 该实验室创新性的提出一种新架构:physics-informed radial basis network(PIRBN),它可以:
- 创新评价指标:直观地展示PINNs收敛的程度
- 已经证明NTK理论适用于PIRBN。 此外,其他 PINN 技术可以直接迁移到 PIRBN。
- 创新性使用单层RB神经网络
关于单层RB神经网络:
- radial basis network由Broomhead 和 Lowe提出
- 使用radial basis function (RBF)作为激活函数
- 使用单层神经网络
目前,该项目(PIRBN)已经发表于CMAME顶刊
2. 收益
2.1 个人收益
- 熟悉深度学习的经典模型结构 RBF network
- 从该项目中了解相关偏微分知识
- 学习 PaddleScience 套件代码,掌握开源套件开发基本知识
- 深度理解 PINNs 的机制
- 熟悉 Paddle 框架使用
- 熟悉概率与统计相关知识
2.2 PaddleScience 收益
- 补充 NTK 指标至 metric 模块
- 补充 PIRBN 案例至PDE相关案例中,提升案例丰富度
- 补充 RBF network 至 arch 模块
3.开发流程
3.1 安装 PaddleScience
下载安装 PaddleScience 套件:https://paddlescience-docs.readthedocs.io/zh/latest/zh/install_setup/#121-git
3.2 代码开发
参考 PIRBN项目,以及 PaddleScience 的开发与复现指南,使用 PaddleScience API 等价实现该项目,开发代码风格与已有案例保持一致,训练精度与原论文对齐,并仿照已有文档撰写 PIRBN 的案例文档,最终合入 PaddleScience。
4. 参考资料
- [1] J. Bai, G.-R. Liu, A. Gupta, L. Alzubaidi, X.-Q. Feng, Y. Gu, Physics-informed radial basis network (PIRBN): A local approximation neural network for solving nonlinear PDEs, Arxiv preprint arXiv:2304.06234, (2023).
- 代码地址
替代实现 Alternatives
No response