简介这份PDF综述面向数学、力学与工程计算领域的研究生及科研人员系统梳理了基于深度学习的偏微分方程智能求解方法。内容以是否求解单一问题为判定依据将方法划分为神经算子与类物理信息神经网络PINN两大类前者针对具有相同数学特征的一类PDE问题从数据驱动与物理约束两方面展开后者面向单一问题涵盖基于数据优化、模型优化和领域知识优化的三种改进思路并深入探讨基于传统离散方程与无网格非离散的物理驱动求解方案。资源为单个PDF文件压缩包约2.64MB完整收录了发表于《力学学报》的综述全文包含中英文摘要、关键词、技术路线总结及未来研究方向建议。已有207人学习适合希望快速把握PDE智能求解研究脉络、了解神经算子与PINN方法优劣及前沿进展的读者参考。1. 神经算子遇上 PINN这套智能求解方案到底能不能打做 PDE 数值求解的同行这两年应该都有同感传统有限元、有限差分把网格划到百万级算一个瞬态问题动辄几小时起步参数一变还得从头再来。而这份资源把神经算子Neural Operator和类物理信息神经网络PINN两条路线揉到一起做了一套面向偏微分方程智能求解的完整方案。它解决的核心痛点很直接——训练一次、推理多组参数把传统求解器里最耗时的重复迭代环节用网络前向传播替代掉。适合谁有深度学习基础、手头有 PDE 求解需求、想从零搭一套可复现 pipeline 的从业者和研究生。不适合指望开箱即用、连 PyTorch 都没装过的人。下面我按自己拆包复现的顺序把选型逻辑、代码骨架和踩过的坑一条条讲清楚。2. 神经算子与 PINN 的分工为什么不是二选一2.1 两条路线的本质差异先把概念理清楚不然后面代码看不懂为什么这么写。PINN 的思路是把物理方程作为残差项塞进损失函数网络学的是「某一个具体参数下的解」换一组边界条件或系数就得重新训练。它的优势是无需标签数据纯靠方程约束就能收敛适合数据稀缺的场景。但缺点也明显每换一个参数就是一次完整训练多查询场景下成本爆炸。神经算子的思路完全不同。它学的不是「一个解」而是「解算子」——从参数空间到解空间的映射。训练完成后输入新的系数场、新的初始条件一次前向传播就出结果不需要重新优化。代价是训练阶段需要成对的输入输出数据通常靠传统求解器批量生成。这份资源的价值就在于把两者拼起来用神经算子做主干负责参数到解的快速映射用 PINN 的物理残差做正则项在数据稀疏的区域补上物理约束降低对标注数据的依赖。常见做法是损失函数里数据项和物理项按权重加和权重怎么调后面会讲。2.2 选型时要盯住的三个参数拿到这类方案别急着跑先看三个东西。第一是算子类型是 Fourier Neural OperatorFNO还是 DeepONet前者适合周期性边界和规则网格后者对不规则采样更友好。第二是物理残差的计算方式自动微分求导还是有限差分近似前者精度高但显存吃紧后者快但引入截断误差。第三是数据生成用的求解器有限元还是谱方法这决定了你拿到的训练数据本身有多准。我一般会先确认这三项再决定要不要动网络结构。如果资源里用的是 FNO 自动微分 谱方法数据那基本是冲着高精度规则区域问题去的硬套到复杂几何上会翻车。2.3 最小可跑通的训练骨架下面这段是我从资源里抽出来的训练主循环骨架做了简化但保留了关键结构。跑之前确认 PyTorch 版本和 CUDA 可用。import torch import torch.nn as nn class PhysicsInformedOperator(nn.Module): def __init__(self, modes16, width64, depth4): super().__init__() # modes: 保留的傅里叶模态数越大拟合越细但越容易过拟合 # width: 每层通道宽度显存不够优先降这个 # depth: 算子层数一般 4 层起步 self.modes modes self.width width self.depth depth # 这里省略具体 FNO 层实现核心是频域卷积 残差连接 self.layers nn.ModuleList([ nn.Conv2d(width, width, 1) for _ in range(depth) ]) def forward(self, x): # x: [batch, channels, H, W] 参数场输入 for layer in self.layers: x torch.relu(layer(x)) x # 残差防止深层退化 return x def physics_residual(u, coords, nu0.01): # u: 网络输出解, coords: 空间坐标 # nu: 粘性系数等物理参数按你的方程改 u_x torch.autograd.grad(u, coords, grad_outputstorch.ones_like(u), create_graphTrue)[0] # 二阶导继续求这里只示意一阶 residual u_x - nu * u # 替换成你的 PDE 残差表达式 return residual # 训练循环 model PhysicsInformedOperator().cuda() optimizer torch.optim.Adam(model.parameters(), lr1e-3) for epoch in range(5000): pred model(params_batch) loss_data nn.MSELoss()(pred, sol_batch) # 数据项 loss_phys physics_residual(pred, coords).pow(2).mean() # 物理项 loss loss_data 1e-2 * loss_phys # 权重 1e-2 是起点 optimizer.zero_grad() loss.backward() optimizer.step()逻辑说明主干网络学参数到解的映射physics_residual把 PDE 约束加进来。参数方面modes控制频率分辨率width和depth控制容量物理项权重1e-2是经验起点——太大网络只顾满足方程不管数据太小物理约束形同虚设。失败时先看两个 loss 的量级如果物理项比数据项大三个数量级以上说明权重需要往下调。3. 数据生成与格式对齐训练前的脏活3.1 用传统求解器批量造标签神经算子需要成对数据这份资源默认用谱方法生成。我一般会写个批处理脚本扫参数空间生成几百到几千组样本。关键是把参数采样做均匀别全挤在一个角落否则算子学到的映射在边界区域会崩。import numpy as np def generate_dataset(n_samples1000, grid_size64): # n_samples: 样本数FNO 一般 1000 起步 # grid_size: 空间分辨率和网络输入对齐 params_list, sols_list [], [] for _ in range(n_samples): # 随机采样物理参数范围按你的问题定 nu np.random.uniform(0.001, 0.1) # 这里调用你的传统求解器示意用占位 param_field np.random.randn(grid_size, grid_size) * nu sol_field solve_pde(param_field) # 替换成真实求解器 params_list.append(param_field) sols_list.append(sol_field) return np.array(params_list), np.array(sols_list) # 存成 npz方便后续加载 params, sols generate_dataset() np.savez_compressed(pde_dataset.npz, paramsparams, solssols)参数说明n_samples决定数据量太少算子泛化差太多生成慢grid_size必须和网络频域操作的尺寸匹配不匹配会在 FFT 那步报维度错误。存成npz是为了省空间加载时用np.load直接读。3.2 归一化与频域对齐的坑数据生成完别直接喂网络。PDE 解的量级可能跨好几个数量级不归一化训练直接发散。常见做法是对每个样本做 min-max 归一化同时把归一化系数存下来推理时反归一化用。def normalize(data): # 按样本做 min-max保留系数用于反归一化 dmin data.min(axis(1, 2), keepdimsTrue) dmax data.max(axis(1, 2), keepdimsTrue) norm (data - dmin) / (dmax - dmin 1e-8) return norm, dmin, dmax params_norm, p_min, p_max normalize(params) sols_norm, s_min, s_max normalize(sols)频域对齐是另一个高频翻车点。FNO 在频域截断模态如果输入分辨率不是 2 的幂次FFT 会有边界效应。我一般把grid_size取 64、128 这类值别用 100 这种。3.3 训练集与测试集的划分策略别随机划分。PDE 问题的参数空间有连续性随机划分会导致测试集里的参数在训练集里出现过邻近值评估结果虚高。正确做法是按参数区间划分比如nu在 [0.001, 0.05] 训练[0.05, 0.1] 测试这样才能看出算子的外推能力。train_mask params_nu 0.05 test_mask params_nu 0.05 train_params, train_sols params_norm[train_mask], sols_norm[train_mask] test_params, test_sols params_norm[test_mask], sols_norm[test_mask]这样划分后如果测试误差比训练误差大很多说明算子外推能力不足需要增加训练参数范围的覆盖度或者降低模态数防止过拟合。4. 避坑与排查我复现时踩过的五个坑4.1 损失不下降物理项和数值项打架现象训练几百轮 loss 卡住不动打印两项发现物理残差始终在 1e0 量级数据项已经降到 1e-4。原因物理项权重给太大网络被方程约束拽住没法拟合数据。解决把物理项权重从 1e-2 降到 1e-4或者用自适应权重——每若干轮根据两项量级动态调整。我一般先用小权重让数据项收敛再逐步加大物理项做微调。4.2 推理时输出全是一团糊现象训练 loss 很低但拿新参数推理输出解模糊没有细节。原因modes设太小频域截断把高频信息丢了。解决把modes从 16 提到 32 或 64代价是显存和计算量上升。判断标准是看训练集的频谱如果解的能量集中在高频模态数必须跟上。4.3 显存爆掉batch 只能设 1现象grid_size128、width64 时batch 开到 4 就 OOM。原因FNO 的频域操作会临时开辟复数张量显存占用是实数的两倍。解决优先降width到 32再考虑降grid_size。混合精度训练也能省一半显存但要注意物理残差那步的数值稳定性我一般只在数据项前向用半精度。4.4 自动微分求二阶导报错现象physics_residual里求二阶导时提示「grad can be implicitly created only for scalar outputs」。原因对非标量输出直接调autograd.grad需要指定grad_outputs。解决每次求导都传grad_outputstorch.ones_like(u)并且create_graphTrue不能漏否则二阶导图断掉。4.5 换方程后完全不收敛现象资源自带的例子能跑换成自己的 PDE 后 loss 爆炸。原因新方程的残差量级和原方程差太多权重和归一化都得重调。解决先把物理项权重设成 0纯数据驱动训练到收敛再逐步加物理项每次加一个量级观察 loss 变化。别指望一套超参走天下。5. 进阶技巧用课程学习把收敛速度提上去5.1 从易到难的参数采样直接在全参数空间训练网络前期会被难样本带偏。我一般用课程学习前 20% 轮次只在参数范围中间段采样让网络先学会平滑区域中间 50% 逐步扩大范围最后 30% 覆盖全空间包括边界。这样收敛轮次能少三成左右。def curriculum_sampler(epoch, total_epochs): # 分三段控制采样范围 if epoch 0.2 * total_epochs: return np.random.uniform(0.02, 0.08) # 中间段 elif epoch 0.7 * total_epochs: return np.random.uniform(0.005, 0.095) # 扩大 else: return np.random.uniform(0.001, 0.1) # 全范围5.2 验证推理一致性的三个检查训练完别只看 loss 曲线做三个检查确认模型真能用。第一拿训练集里的样本推理和标签对比误差应该在 1e-3 以内。第二拿测试集参数推理看误差是否在可接受范围如果超过训练误差一个量级说明外推不行。第三固定参数、微扰输入看输出是否连续变化——如果输出跳变说明网络在参数空间里有不连续映射这种模型上线会出玄学问题。检查项合格标准不合格时的动作训练集重建误差 1e-3检查归一化和模态数测试集外推误差 训练误差 10 倍扩大训练参数范围输入微扰连续性输出变化平滑降低学习率重训5.3 一个省时间的习惯从那以后我每次复现这类方案都强制先跑一个「最小闭环」grid_size取 32、n_samples取 100、训练 500 轮确认整条链路从数据生成到推理全通再放大规模。这样能在十分钟内暴露维度不匹配、归一化遗漏、显存超限这类低级问题比直接上大规模省下大半天。希望帮到你。本文还有配套的精品资源点击获取