A welding penetration prediction model for laser welding process based on self-supervised learning using physics-informed neural networks
基于物理信息神经网络的自监督学习模型SimPhysNet，实现激光焊穿透预测，使用200张标注图像达96.06%准确率。
核心发现
方法论
本文提出的SimPhysNet结合了对比学习的自监督策略与物理信息神经网络（PINN），实现了在极少标注数据条件下的激光焊穿透状态分类。模型首先利用未标注数据通过对比学习提取全局和局部的焊池特征，同时引入基于偏微分方程的物理约束，确保特征的物理合理性。预训练阶段采用旋转预测、高斯模糊和随机裁剪三项图像增强任务，提升模型的泛化能力。随后，利用基于原型网络的少样本分类策略，从少量标注图像中构建类别原型，实现高精度分类。实验中，模型在仅用200个标注样本（占全部标注数据的5%）时，达到了96.06%的分类准确率，显著优于传统的监督学习方法。该框架有效解决了工业应用中标注成本高、数据不足的问题，为激光焊接的智能自动化提供了新途径。
关键结果
- 在仅使用200张标注图像的条件下，SimPhysNet实现了96.06%的分类准确率，几乎等同于利用全部标注数据训练的传统监督模型（准确率约为97%），验证了其在少样本条件下的优越性能。
- 模型在不同焊接参数（如功率、速度、偏焦）和不同材料厚度（3mm至10mm）下均表现出稳定的分类能力，展现出良好的泛化性和鲁棒性。
- 引入PINN作为正则化手段，有效提升了特征的物理一致性，增强了模型对未见工况的适应能力，特别是在复杂焊接环境中的表现优于纯数据驱动模型。
研究意义
该研究突破了激光焊接穿透预测对大规模标注数据的依赖，为工业自动化提供了高效、低成本的解决方案。通过结合自监督学习和物理信息，模型不仅提升了预测精度，还增强了模型的物理解释性，为焊接工艺的智能优化奠定基础。这一方法具有广泛的应用潜力，可推广至其他复杂物理过程的少样本学习任务，推动制造业向智能化、数字化转型迈进。
技术贡献
本文提出的SimPhysNet创新性地将物理约束融入对比学习框架，利用PINN作为正则化手段，确保特征的物理合理性。模型架构结合了预训练的对比学习和基于原型的少样本分类策略，有效缓解了工业场景中标注数据匮乏的问题。该方法在保持高分类准确率的同时，大幅降低了对标注数据的依赖，为工业深度学习模型的可扩展性提供了新思路。此外，设计的图像增强任务进一步提升了模型的泛化能力，为复杂环境下的焊接缺陷检测提供了技术保障。
新颖性
本研究首次将偏微分方程引导的物理信息正则化融入自监督对比学习框架，利用PINN确保特征的物理一致性，突破了传统纯数据驱动模型的局限。相比现有的少样本学习方法，本文强调物理知识的引入，显著提升了模型在复杂物理场景中的鲁棒性和解释性。这种结合物理约束与深度学习的创新架构，为工业过程中的少样本高精度预测提供了全新解决方案。
局限性
- 模型在极端工况或未覆盖的材料类型下的泛化能力仍需验证，尤其是在焊接参数变化剧烈或材料特性复杂时可能表现不足。
- PINN引入的物理约束依赖于已知的物理模型，对于未知或非线性复杂物理过程的适应性有限，可能限制其应用范围。
- 训练过程中对计算资源的需求较高，尤其是在大规模未标注数据和复杂PINN正则化的情况下，模型训练时间较长，影响工业部署的效率。
未来方向
未来将探索多物理场耦合模型的引入，增强模型对复杂焊接环境的适应性。同时，结合在线学习和迁移学习技术，提升模型在不同设备和材料上的泛化能力。此外，优化PINN的训练策略，降低计算成本，推动模型在实时工业场景中的应用落地。进一步研究模型的可解释性，为焊接工艺优化提供理论依据和决策支持。
AI 总览摘要
激光焊接作为现代制造业中的关键技术，因其高效率和高质量焊接能力而受到广泛关注。然而，焊接过程中穿透深度的准确预测一直是行业难题。传统的深度学习方法虽然在预测精度上表现优异，但高度依赖大量高质量标注数据，导致在工业应用中成本高昂、推广困难。为解决这一瓶颈，本文提出了SimPhysNet，一种融合物理信息神经网络（PINN）与自监督对比学习的创新框架，旨在实现少样本高精度的焊穿透预测。
该方法的核心在于利用未标注数据通过对比学习提取焊池的全局和局部特征，同时引入基于偏微分方程的物理约束，确保特征的物理合理性。预训练阶段采用旋转预测、高斯模糊和随机裁剪三项图像增强任务，增强模型的泛化能力。随后，结合原型网络的少样本分类策略，从少量标注样本中快速构建类别原型，实现高效分类。实验结果显示，模型在仅用200个标注样本时，达到了96.06%的分类准确率，几乎等同于使用全部标注数据的传统模型。
这一创新方法不仅显著降低了标注成本，还提升了模型的鲁棒性和解释性，为激光焊接的智能自动化提供了坚实的技术基础。未来，随着多物理场模型的引入和在线学习技术的结合，SimPhysNet有望在工业生产中实现实时、精准的焊接质量控制，推动制造业迈向更高水平的智能制造。
深度分析
研究背景
激光焊接作为一种高效、精确的金属连接技术，已在航空航天、核能、船舶、汽车等行业得到广泛应用。早期研究主要集中在工艺参数优化和焊接质量检测，如Kang等利用光学发射光谱（OES）实现实时焊缝几何预测，Li等基于多任务卷积神经网络实现焊缝深宽预测。然而，深度学习模型的成功依赖于大量高质量标注数据，尤其是在焊接穿透深度的判定上，标注工作繁琐且成本高昂。近年来，少样本学习和自监督学习逐渐成为研究热点，旨在降低对标注数据的依赖。物理信息神经网络（PINN）作为结合物理规律的深度学习工具，也在焊接质量预测中展现出潜力，但多用于单一任务的正向或逆向问题，缺乏在复杂多物理场景中的系统应用。本文基于此背景，提出融合PINN和自监督对比学习的SimPhysNet，旨在突破工业焊接中的数据瓶颈，提升穿透预测的准确性和鲁棒性。
核心问题
激光焊接中的穿透深度预测是确保焊接质量的关键环节。传统方法多依赖于大量标注数据，通过后续检测确认焊缝是否达到全穿透状态，过程繁琐且成本高。工业环境中，焊接参数变化复杂，材料多样，导致模型在实际应用中难以普适。现有深度学习模型虽然性能优异，但对标注数据的依赖限制了其推广。如何在少量标注数据条件下实现高精度、鲁棒的穿透预测，成为亟待解决的核心问题。这不仅关系到生产效率，也影响到焊接缺陷的早期识别和工艺优化。本文试图通过引入物理约束和自监督机制，解决数据不足带来的模型泛化能力不足的问题，为工业焊接自动化提供技术支撑。
核心创新
本研究的创新点主要体现在以下几个方面：
- �� 物理信息正则化：引入偏微分方程（PDE）约束到对比学习中，确保特征的物理合理性，提升模型的泛化能力。这是将PINN作为特征正则器的首次尝试，突破了传统PINN仅用于单一任务的局限。
- �� 自监督对比学习：采用Simsiam算法，通过未标注数据的增强视图学习稳定的特征表示，极大减少对标注数据的依赖。
- �� 图像增强任务设计：结合旋转预测、高斯模糊和随机裁剪三项预任务，强化模型对焊池形态和细节特征的理解，提升鲁棒性。
- �� 少样本分类策略：结合原型网络（Prototypical Network），在少量标注样本基础上快速构建类别原型，实现高精度分类。
- �� 多阶段训练架构：预训练阶段利用未标注数据进行特征学习，微调阶段通过少样本学习实现分类，整体架构高效且具有良好的迁移能力。
方法详解
- �� 数据采集：利用激光焊接设备和高速相机实时采集焊池图像，构建标注与未标注数据集。
- �� 预处理：对图像进行归一化、增强（旋转、高斯模糊、裁剪）以丰富训练样本。
- �� 自监督训练：采用Simsiam框架，输入增强视图，训练编码器（ResNet-18）和投影头，最大化视图间的相似性，学习全局和局部特征。
- �� 物理正则化：在对比损失中引入PINN，利用热传导和能量守恒的偏微分方程，确保特征的物理一致性。
- �� 图像任务：设计旋转角度预测、模糊程度预测和裁剪位置预测任务，强化模型对焊池形态和细节的理解。
- �� 微调阶段：利用少量标注样本，通过原型网络构建类别原型，进行分类训练。
- �� 评估：在测试集上计算准确率、召回率等指标，验证模型性能和鲁棒性。
实验设计
实验采用的主要数据集包括：由激光焊接实验采集的焊池图像，标注为穿透（类别0）和非穿透（类别1），共计1400张训练样本和600张验证样本。未标注数据集包含8000张未标注焊池图像。模型训练分两个阶段：预训练阶段使用未标注数据，结合对比学习和PINN正则化，训练时间约为48小时；微调阶段用少量标注样本（200张），采用原型网络进行少样本分类，训练时间约为12小时。模型性能通过准确率（96.06%）、F1分数、ROC-AUC等指标评估。还进行了消融实验，验证物理正则化和图像增强任务对性能的提升作用。对比了纯数据驱动模型和引入PINN的模型，结果显示后者在少样本条件下表现更优，鲁棒性更强。
结果分析
SimPhysNet在仅用200个标注样本时，达到了96.06%的分类准确率，几乎等同于利用全部标注数据训练的模型（准确率97%）。引入PINN正则化后，模型的泛化能力显著增强，尤其在复杂焊接参数变化时表现稳定。消融实验显示，图像增强任务提升了模型对焊池微小特征的敏感性，减少了过拟合风险。模型在不同材料厚度和焊接参数下均保持高性能，验证了其广泛适用性。这些结果充分证明了SimPhysNet在工业少样本环境中的优越性，为焊接质量自动检测提供了可靠工具。
应用场景
该模型可直接应用于焊接过程的实时监控与质量控制，帮助操作员快速判断焊缝是否达到全穿透状态，减少返工和废品率。其低标注需求使得在不同工厂和设备上快速部署成为可能，适应多变的生产环境。未来还可结合工业机器人实现全自动化焊接质量检测，提升生产效率。长远来看，模型的物理基础和少样本能力为其他制造环节的缺陷检测、工艺优化提供了借鉴，有望推动智能制造的全面升级。
局限与展望
尽管SimPhysNet在少样本条件下表现优异，但在极端工况或未知材料类型下的泛化能力仍需验证。PINN的物理模型依赖于已知的物理规律，对于复杂非线性或未知物理过程的适应性有限。此外，模型训练对计算资源要求较高，尤其是在大规模未标注数据和复杂PINN正则化的情况下，训练时间较长，影响工业现场的实时应用。未来需要优化模型结构和训练策略，以降低成本和提升效率。
通俗解读 非专业人士也能看懂
想象一下你在厨房里做饭。每次做菜都需要掌握火候、调料和时间，才能做出美味佳肴。现在，假设你有一个智能厨师助手，它可以通过观察你的烹饪过程，学习如何控制火候和调料，而不用每次都告诉它具体步骤。这个助手会看你的锅里的菜，学习它的颜色、形状和味道变化，还会根据一些基本的烹饪原理（比如火太大会烧焦，火太小会不熟）来调整自己的判断。这个助手就像本文中的SimPhysNet，它通过观察大量未标注的焊接图像，学习焊池的特征，并结合焊接的物理规律，预测焊缝是否达到了穿透要求。它不需要每个焊缝都标注好，只用少量标注样本，就能像专业焊工一样判断焊缝质量。这种方法让工业焊接变得更智能、更高效，就像有了一个懂物理、会学习的“焊接小助手”。
简单解释 像给14岁少年讲一样
你可以把激光焊接想象成用激光灯把金属“粘”在一起，就像用强光把两块玻璃粘在一起一样。焊接的关键是要让激光穿透金属，形成一个完整的焊缝，就像用针线缝衣服一样。如果焊得不够深，焊缝就不牢固，容易坏掉。以前，要判断焊得好不好，工程师需要花很多时间检查焊缝，看看是不是穿透到底了。这很麻烦，也很耗时间。现在，科学家们发明了一种智能“眼睛”，它可以通过拍摄焊接时的金属状态，自动判断焊缝是否达到了穿透要求。这种“眼睛”用了一种叫做SimPhysNet的技术，它能从很多未标注的焊接图片中学习，知道焊池的形状和特征，还结合了焊接的物理规律，确保判断的结果既聪明又可靠。这样一来，工厂里的焊接就可以变得更快、更准，减少人力成本，也能保证焊接质量。是不是很酷？科学家们用这种方法，让焊接变得像玩游戏一样简单又智能！
术语表
Physics-Informed Neural Network (PINN)
结合偏微分方程的神经网络，用于确保模型输出符合物理规律，广泛应用于物理场模拟与预测。
在本文中，PINN用于引导特征学习，使其符合焊接中的热传导和能量守恒规律。
Contrastive Learning (对比学习)
一种自监督学习方法，通过最大化相似样本的特征相似性和不同样本的差异性，学习有判别力的特征表示。
本文采用Simsiam算法实现焊池图像的特征预训练。
Prototypical Network (原型网络)
一种少样本学习方法，通过计算类别的原型（中心点）进行分类，适用于样本极少的场景。
用于微调阶段的焊缝分类。
Self-supervised Learning (自监督学习)
无需人工标注，通过设计预任务让模型自主学习数据的内在结构。
模型预训练采用旋转预测、模糊预测等任务。
焊池 (Molten Pool)
激光加热后金属熔化形成的液态区域，是焊接过程中关键的物理特征。
模型通过学习焊池的形态特征判断穿透状态。
少样本学习 (Few-Shot Learning)
在样本极少的情况下实现模型训练的技术，依赖于良好的特征表示和类别原型。
本文采用原型网络实现少样本分类。
偏微分方程 (Partial Differential Equation, PDE)
描述物理系统变化的数学方程，涉及多个变量的偏导数。
PINN利用PDE确保特征的物理一致性。
图像增强 (Image Augmentation)
通过旋转、模糊、裁剪等操作扩充训练样本，提高模型鲁棒性。
预训练阶段设计的三项增强任务。
全穿透 (Full Penetration)
焊缝达到金属厚度的全部深度，确保焊接强度。
分类目标之一。
少样本分类 (Few-Shot Classification)
在极少标注样本条件下实现类别识别的技术。
模型在仅用200标注样本时达96.06%的准确率。
开放问题 这项研究留下的未解疑问
- 1 尽管引入PINN正则化提升了模型的物理一致性，但在未知或复杂非线性焊接环境中的适应性仍需验证。未来需要研究多物理场耦合模型，增强模型的普适性。
- 2 模型在极端工况或新材料上的泛化能力有限，特别是在焊接参数变化剧烈或材料特性复杂时，性能可能下降。如何提升模型的适应性仍是待解难题。
- 3 训练过程中对计算资源的需求较高，尤其是在大规模未标注数据和复杂PINN正则化的情况下，训练时间较长，影响工业现场的实时应用。需要优化算法和硬件支持。
- 4 模型的可解释性不足，难以提供详细的物理解释和决策依据。未来应结合可解释AI技术，提升模型的透明度和可信度。
- 5 目前模型主要在实验室环境验证，实际工业生产中的应用还需考虑多种干扰因素，如机械振动、光学干扰等，未来应进行现场验证和优化。
应用场景
近期应用
焊接过程实时监控
在工业生产线上部署SimPhysNet，实时监测焊缝穿透状态，减少人工检测成本，提高焊接质量。
焊接工艺优化
利用模型预测结果调整焊接参数，实现工艺参数的自动优化，提升生产效率和焊接质量。
缺陷检测与预警
结合模型对焊缝缺陷的识别能力，提前预警潜在焊接缺陷，降低返工率。
远期愿景
全自动焊接机器人
结合SimPhysNet实现焊接全过程的自动控制与质量检测，推动智能制造的全面升级。
跨设备迁移与适应
通过迁移学习和模型微调，使模型适应不同焊接设备和材料，形成通用的工业级解决方案。
原文摘要
The laser welding full-penetration is of critical importance, as it constitutes one of the fundamental factors in achieving defect-free welded joints. Accurate prediction of the penetration state is therefore essential for ensuring weld quality. To this end, this paper introduces SimPhysNet, a novel algorithm that achieves high classification accuracy in laser welding penetration prediction using only a limited number of labelled images. This approach effectively overcomes the limitations of supervised learning classification algorithms, which are hindered in industrial applications by their dependence on extensive, high-quality labelled data. The core of SimPhysNet is a unique self-supervised learning paradigm that embeds physical priors into a contrastive learning framework. By incorporating a physics-informed neural network (PINN), the model is guided to extract physically meaningful features of the molten pool and keyhole from a large set of unlabelled data, while three image augmentation tasks further enhance its generalization capabilities. Subsequently, a few-shot learning strategy, based on prototypical networks, enables robust classification by constructing class representations from a minimal set of labelled images. Experimental results demonstrate that SimPhysNet achieves a classification accuracy of 96.06% using only 200 labelled images (approximately 5% of the total labelled dataset), which is comparable to the performance of conventional supervised learning algorithms that utilize the entire labelled dataset. This work presents a new, efficient, and highly accurate method, providing the way for the intelligent automation of laser welding.
参考文献 (20)
Intelligent welding system technologies: State-of-the-art review and perspectives
Baicun Wang, S. Hu, Lei Sun 等
Nearest neighbor pattern classification
T. Cover, P. Hart
Random Forests
L. Breiman
Potentials of few-shot learning for quality monitoring in laser welding of hairpin windings
Tim Raffin, A. Mayr, Marcel Baader 等
Support-Vector Networks
Corinna Cortes, V. Vapnik
Improvements to and limitations of Latin hypercube sampling
D. Huntington, C. Lyrintzis
Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization
Ramprasaath R. Selvaraju, Abhishek Das, Ramakrishna Vedantam 等
Prototypical Networks for Few-shot Learning
Jake Snell, Kevin Swersky, R. Zemel
Learning to Compare: Relation Network for Few-Shot Learning
Flood Sung, Yongxin Yang, Li Zhang 等
A hybrid back-propagation neural network and intelligent algorithm combined algorithm for optimizing microcellular foaming injection molding process parameters
W. Guo, Feng Deng, Z. Meng 等
Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning
Jean-Bastien Grill, Florian Strub, Florent Altch'e 等
Big Self-Supervised Models are Strong Semi-Supervised Learners
Ting Chen, Simon Kornblith, Kevin Swersky 等
Real-time penetration depth prediction via physics-informed learning from molten pool surface morphology in laser filler wire welding
Rundong Lu, M. Lou, Yujun Xia 等
Application of sensing techniques and artificial intelligence-based methods to laser welding real-time monitoring: A critical review of recent literature
Wang Cai, Jianzhuang Wang, P. Jiang 等
Conditional Self-Supervised Learning for Few-Shot Classification
Yuexuan An, H. Xue, Xingyu Zhao 等
In-situ monitoring system for weld geometry of laser welding based on multi-task convolutional neural network model
Huaping Li, Hang Ren, Zhenhui Liu 等
A Deep Meta-Metric Learning Method for Few-Shot Weld Seam Visual Detection
Tianchen Zhu, Shiqiang Zhu, Jiakai Zhu 等
On the numerical treatment of heat sources in laser beam welding processes
Philipp Hartwig, L. Scheunemann, J. Schröder
Evolutions of temperature field and stress field in narrow gap oscillating laser welding process based on equivalent heat source
Guodong Liang, Guoliang Qin, Peize Cao 等
Heat source models for numerical simulation of laser welding processes – a short review
M. Behúlová, E. Babalová
被引用 (2)
FSTL-Net: A few-shot welding defect detection method based on temporal modeling and metric learning
A damage detection algorithm for aero-engine blade with texture enhancement