标签：12.29 数据 ML 可以 论文 笔记 学习 方法 物理

Physics-informed machine learning George Em Karniadakis 1,2 ✉, Ioannis G. Kevrekidis3,4, Lu Lu 5, Paris Perdikaris6, Sifan Wang7 and Liu Yang

本文回顾了将物理嵌入到机器学习中的一些流行趋势，介绍了一些当前的能力和局限性，并讨论了物理信息学习在正逆问题中的不同应用，包括发现隐藏的物理和解决高维问题。
背景：尽管可用数据流的数量、速度和种类繁多，但在许多实际情况下，仍不可能将这种多保真度数据无缝地整合到现有的物理模型中。由于现有数据的丰富和时空异质性，以及缺乏普遍接受的模型，突显出需要一种变革性的方法。这就是**机器学习(ML)**发挥作用的地方。它可以探索大量的设计空间，识别多维相关性和处理不适定问题。特别的，深度学习方法自然地提供了从海量多保真度观测数据中自动提取特征的工具。
‘physics-informed neural networks’ (PINNs)。这是一类深度学习算法，可以无缝地集成数据和抽象数学运算符（偏微分方程)。开发这些算法的主要动机是，这种先验知识或约束可以产生更多可解释的ML方法，这些方法在存在不完美数据(如缺失值或噪声值、离群值等)时保持稳健，并可以提供准确和物理上一致的预测，甚至对于外推/泛化任务。

How to embed physics in ML
使学习算法符合物理原理相当于引入适当的观察、归纳或学习偏差，可以引导学习过程，以确定物理上一致的解决方案。 physics-informed learning目前有三种途径可以通过在ML模型中嵌入物理来加速训练和增强模型的泛化：

• observational biases
  观测偏差可以通过体现基础物理的数据或精心设计的数据增强程序直接引入。在这样的数据上训练机器学习系统，可以让它学习反映数据物理结构的函数、向量场和运算符。
• Inductive biases（卷积神经网络）
  该架构隐含地嵌入与给定预测任务相关的任何先验知识和归纳偏见。归纳偏差对应于预先的假设，这些假设可以通过定制干预整合到ML模型体系结构中，这样所寻求的预测可以保证隐含地满足一组给定的物理定律，通常以某种数学约束的形式表示。有人会说这是使学习算法具有物理信息的最原则性的方法，因为它允许严格满足潜在的物理约束。然而，这样的方法可能被限制在对已知的相对简单的对称组(如平移、排列、反射、旋转等等)的解释上，并且通常会导致难以扩展的复杂实现。
• Learning bias
  学习偏差通过适当地惩罚传统NN近似的损失函数，以一种软的方式强加这些约束，而不是设计一个专门的体系结构来隐式地强化这一知识。可以通过适当选择损失函数、约束条件和推理算法引入，这些算法可以调整ML模型的训练阶段，明确地倾向于收敛到符合基础物理的解决方案。通过使用和调整这些软惩罚约束，基本物理定律只能近似满足;然而，这为引入一类广泛的基于物理的偏差提供了一个非常灵活的平台，这些偏差可以以积分、微分甚至分数阶方程的形式表示。
• Hybrid approaches
  it is beneficial to introduce physics bias via appropriate non-dimensional parameters, such as Reynolds,Froude or Mach numbers. Several methods have been proposed to learn operators that describe physical phenomena,例如，，，
• Connections to kernel methods
  许多提出的基于神经网络的技术与核方法有密切的渐近联系，可以利用这些方法产生新的见解。更一般地说，神经网络方法可以严格地解释为内核方法，其中底层的扭曲核也是从数据中学习的。通过核方法来分析神经网络模型可能有相当大的好处，因为核方法通常是可解释的，并且有很强的理论基础，这可以随后帮助我们理解深度学习方法何时以及为什么可能失败或成功。
• Connections to classical numerical methods
  Runge–Kutta methods and finite-element methods

Merits of physics-informed learning
PINN在解决不适定和逆问题时特别有效，而对于不需要任何数据同化的正定问题，现有的基于网格的数值求解器目前优于PINN。

1. Incomplete models and imperfect data
   物理信息学习可以很容易地将来自物理的信息和分散的噪声数据结合起来。当处理不完美的模型和数据时，将贝叶斯方法与基于物理的学习相结合来进行不确定性量化是有益的。此外，与传统的数值方法相比，物理信息学习是无网格的，没有昂贵的计算网格生成，因此可以轻松处理不规则和移动域问题。
2. Strong generalization in small data regime
3. Understanding deep learning
   除了增强ML模型的可训练性和泛化性外，物理原理也被用于提供理论洞察力，并阐明深度学习惊人有效性背后的内在机制。
4. Tackling high dimensionality
5. Uncertainty quantification

Applications highlights
介绍了一些例子，主要inverse and ill-posed problems（逆问题和不适定问题）
1）流体力学——咖啡杯上方的三维速度和压力场 2）基于物理信息的4D-flow磁共振成像深度学习
3）通过部分观测深度学习揭示边缘等离子体动力学 4）研究分布的亚稳态之间的跃迁
5）热力学一致的物理信息神经网络 6）在量子化学中的应用 7）应用于材料科学
8）分子模拟 9）应用地球物理学

Software
已经开发了几个专门为物理信息的ML设计的软件库(表1)。因为Python是ML的主要编程语言，所以将Python用于以物理为基础的ML更方便，这些库几乎也是用Python写的。

Which model, framework, algorithm to use?
给定一个物理系统和/或支配规律和一些观测数据，应该使用哪种ML框架?选择哪种训练算法?要考虑多少个训练样本?虽然目前还没有经验法则来回答这些问题，但元学习技术在未来可以使此过程自动化。

Current limitations

标签：12.29,数据,ML,可以,论文,笔记,学习,方法,物理
来源： https://blog.csdn.net/weixin_42927835/article/details/122217261

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。