LaTeX 转 Word

---
title: 基于注意力机制的物理信息神经网络求解非定常 Navier–Stokes 方程
author: 王明^1^　李华^1,2^　陈思远^2^
date: 2026 年 9 月
abstract: 物理信息神经网络（PINN）在高雷诺数非定常流动中常因各损失项梯度失衡而难以收敛。本文提出一种以注意力机制自适应分配残差权重的 PINN 框架（Attn-PINN），并证明了其逼近误差的上界。在圆柱绕流（$\mathrm{Re}=3\,900$）算例中，Attn-PINN 的相对 $L^2$ 误差降至 $1.7\times10^{-3}$，较基线降低 **一个数量级**，训练时间缩短 41%。
bibliography: refs.bib
number-sections: true
---

# 引言

PINN 将偏微分方程的残差嵌入神经网络的损失函数[@raissi2019]，无需网格即可同时求解正问题与反问题，已成为科学机器学习的核心方法之一[@karniadakis2021]。然而，对于强非线性的 Navier–Stokes 方程，各损失项的梯度量级相差可达 $10^{3}$ 以上，导致训练陷入“梯度病态”[@wang2021]。神经算子[@li2021]虽能缓解该问题，却依赖大量标注数据。本文借鉴 Transformer 的注意力机制[@vaswani2017]，让网络在训练中**自行学习**每个配点的权重。

# 问题描述 {#sec:problem}

考虑区域 $\Omega\subset\mathbb{R}^2$ 上的不可压缩粘性流动，速度 $\mathbf{u}=(u,v)^{\top}$ 与压力 $p$ 满足

$$
\left\{
\begin{aligned}
\frac{\partial \mathbf{u}}{\partial t} + (\mathbf{u}\cdot\nabla)\mathbf{u}
  &= -\frac{1}{\rho}\nabla p + \nu\,\nabla^{2}\mathbf{u} + \mathbf{f},
  && (\mathbf{x},t)\in\Omega\times(0,T],\\
\nabla\cdot\mathbf{u} &= 0,
  && (\mathbf{x},t)\in\Omega\times(0,T],\\
\mathbf{u}(\mathbf{x},0) &= \mathbf{u}_0(\mathbf{x}),
  && \mathbf{x}\in\Omega,
\end{aligned}
\right.
$$ {#eq:ns}

其中 $\nu$ 为运动粘度。以神经网络 $\hat{\mathbf{u}}_{\theta}$、$\hat{p}_{\theta}$ 近似解，定义动量残差
$\mathbf{r}_{\theta} = \partial_t\hat{\mathbf{u}}_{\theta} + (\hat{\mathbf{u}}_{\theta}\cdot\nabla)\hat{\mathbf{u}}_{\theta} + \rho^{-1}\nabla\hat{p}_{\theta} - \nu\nabla^{2}\hat{\mathbf{u}}_{\theta} - \mathbf{f}$。

# 方法 {#sec:method}

## 注意力加权残差

对 $N_r$ 个配点 $\{\mathbf{x}_i\}$，权重由残差特征经缩放点积注意力得到：

…