跳到主要内容
Research Tools

Auto-opt-PINN

让遗传算法替研究者探索 PINN 网络结构,在 DNN、KAN 与 Attention 的混合搜索空间中寻找更适合具体 PDE 的组合。

物理信息神经网络(PINN)的效果不仅取决于损失函数和采样点,也高度依赖网络深度、宽度和层类型。研究者通常需要凭经验在多层感知机、注意力结构或其他新型网络之间反复试验,而每一个候选架构都可能需要漫长训练。Auto-opt-PINN 将这个过程转化为可编程的神经架构搜索问题,探索“能否让模型结构也跟着物理问题一起优化”。

用基因描述一张混合 PINN

项目把网络表示为一组可变长度的“层基因”,当前搜索空间包含 3 类结构:

  • DNN 层,用不同隐藏单元数承担稳定的非线性拟合。
  • KAN 层,通过可训练 B 样条基表达更灵活的函数关系。
  • Attention 层,用多头注意力块建模特征之间的交互。

一个候选基因可以由这些层任意组合。遗传算法负责初始化种群,并通过锦标赛选择、交叉、层类型替换、参数变化、插入和删除等操作产生下一代架构。搜索过程保留精英个体,并对重复基因进行签名去重,避免把计算预算浪费在完全相同的网络上。

让每个候选模型接受同一套物理检验

每个架构都会被组装成 Hybrid PINN,并在 Burgers 方程上训练。适应度评估同时计算 PDE 残差、边界条件和初始条件损失,以最佳训练损失的倒数作为搜索信号。这样,遗传算法优化的不是传统监督学习准确率,而是模型满足控制方程和约束条件的综合能力。

仓库已经加入适合长时间搜索的工程能力,包括检查点、适应度缓存、种子基因热启动、多进程评估,以及可配置的多 GPU 设备分配。搜索完成后,还可以重新训练最佳基因,并与纯 DNN、纯 KAN 和纯 Attention 基线进行参数量匹配后的对比,减少“只是因为模型更大所以更好”的混淆。

它能为研究带来什么

Auto-opt-PINN 当前是一套面向 Burgers 方程的研究框架,而不是已经覆盖所有 PDE 的通用求解器。它更适合希望研究 PINN 架构影响、神经架构搜索或混合网络设计的使用者。你可以扩展新的层基因、替换控制方程、修改适应度指标,也可以把训练成本、参数量和误差共同纳入多目标搜索。

这个项目提供的启发是:PINN 中许多被视为“经验调参”的选择,其实可以被结构化、记录并自动探索。它不能消除计算成本,却能让搜索过程更可复现,也让“为什么选择这张网络”从个人经验逐渐变成可以比较和验证的实验问题。