(沈阳航空航天大学 民用航空学院 110136)
摘要:
近年来,以数据驱动的机器学习方法已成地应用于材料性能预测、新材料发现以及其他用途,节省实验成本和时间消耗,推动高温合金材料的发展。但获取数据需要大量投入且实验成本较高,大多数情况下数据存在缺失的情况。本文针对数据的标签存在缺失的问题,利用其他相关标签的样本,克服了当前数据样本标签缺失的阻碍,提出了改进的损失函数,建立深度神经网络模型对多个标签进行预测。然后通过对比实验,验证该方法的有效性。最后对铸造高温合金材料各种性能的重要影响因素进行分析,为铸造高温合金材料的工艺优化提供指导。
关键词:高温合金;机器学习;性能预测;有限数据;模型构建
1.研究背景:
随着我国航空航天领域的不断发展,高温合金作为高性能多组元合金在航天发动机等领域的应用日益广泛[1]。传统的高温合金材料开发方法基于生产经验,通过反复实验确定最佳元素成分和工艺参数,然而这种方法效率低下且成本高昂[3]。为了克服这一难题,数据驱动的机器深度学习技术被引入到高温材料性能预测领域。机器深度学习技术能够通过分析有限的数据,实现对不同成分高温合金性能的精准预测,从而显著降低实验成本和时间。
2.基于深度神经网络的多标签预测与分析
2.1多标签学习
在机器学习任务中,单任务学习通常针对独立的任务进行分别的学习与优化[4],而多任务学习则巧妙地利用不同任务间的内在相关性进行联合训练,从而显著提升模型的泛化能力。多标签学习作为多任务学习的一个重要分支,关注于处理那些可能同时拥有多个相关标签的样本[5]。在评价多标签学习模型时,主要有基于样本和标签两种方法。本文倾向于采用基于标签的评价策略,通过对比标签矩阵与预测矩阵,从而全面而准确地评估模型的性能。
(a) (b)
图1 (a)单任务学习方法 (b)多任务学习方法
2.2多标签预测的神经网络模型
假设给定数据集,预测标签其中 xiRd为第i个样本,d为特征维度,n为样本总数,l为预测标签的个数。
多标签回归模型原始的平方损失函数表达式为:
针对样本存在标签缺失的问题,本文提出了改进方法,重新定义了深度神经网络模型的损失函数。在计算损失时,没有计算缺失标签的平方损失,改进的损失函数表达式为:
本文采用多标签学习方法,对铸造高温合金材料的拉伸性能、持久极限和持久性能进行预测。数据集包括三个实验数据集,特征各异但共享部分共性。预处理阶段,按4:1划分训练集与测试集,并通过内连接拉伸性能与其他性能数据,获得含22个特征和8个标签的训练集。在计算模型损失时,利用标签矩阵Y的aij元素(缺失为0,存在为1)来避免计算缺失标签的损失。最后,按相同方式处理测试集并输入模型,以评估其泛化性能。
图2 深度神经网络结构
本文建立的深度神经网络模型包含4个隐藏层,每层神经元数分别为100,100,100,50。输入层有22个神经元,输出层有8个神经元,输出层激活函数为Sigmoid,其余层为ReLU。模型结构为22-100-100-100-50,并在第三四层间加入Batch Normalization层,以加速训练并防止梯度消失。
2.3实验与分析
实验对比了基于DNN的单标签与多标签预测方法,在相同数据集和评估准则下,训练集与测试集按4:1划分,输入特征向量归一化,目标向量为多性能标签。模型采用Adam优化器,batch_size为32。经约370次训练,自定义损失函数收敛,模型掌握合金成分、温度、时间对性能的影响。图3展示了损失函数变化曲线,随着训练次数增加,损失逐渐降低。
图3 损失函数随训练次数的变化
下面建立了单标签预测的深度神经网络模型,输出层节点数设为1,以归一化数据特征向量作为输入进行训练。模型在约250次训练后损失函数收敛。随后,将多标签与单标签DNN模型在相同测试集上进行预测,对比其预测性能。
图4 单标签与多标签预测模型对比
如图4所示,根据预测模型的拟合优度结果显示,通过建立基于深度神经网络模型的多标签预测模型,提升了对铸造高温合金材料的各种性能预测准确性。其中,持久性能数据的延伸率、断面收缩率、持久寿命的预测效果提升比较显著。
如表1所示,与单标签预测相比,多标签DNN模型在改进损失函数后,预测精度显著提升。拉伸性能各指标提升显著,持久性能数据集提升尤为突出。平均预测精度从88.32%升至95.88%。在标签缺失时,该模型仍能准确预测多个标签,提高预测准确性。
表1 单标签与多标签预测模型对比
数据 | 标签 | 单标签预测 | 多标签预测 |
拉伸性能 | 屈服强度 抗拉强度 延伸率 断面收缩率 | 0.9850 0.9890 0.9851 0.9734 | 0.9886 0.9945 0.9854 0.9772 |
持久极限 | 持久极限 延伸率 | 0.9876 0.7394 | 0.9878 0.9415 |
持久性能 | 断面收缩率 持久寿命 | 0.5485 0.8577 | 0.8463 0.9486 |
平均值 | 0.8832 | 0.9588 |
2.4 重要影响因素分析
热处理与铸造方式影响高温合金性能,但化学元素组分的作用同样关键。本文以K405高温合金为例,利用深度神经网络模型绘制三维图,探究元素组分对性能的影响。在固定其他金属元素组分后,研究了C元素和Cr元素对合金性能的交互影响。实验条件设为700℃、50h和794MPa。通过递增目标元素含量,同时调整镍或铁元素含量,保持其他元素不变,发现元素组分变化对合金性能有显著影响。图5展示了C和Cr元素对合金性能的交互影响规律,为优化合金性能提供了依据。
图5 C和Cr元素对不同性能的交互影响规律
如图6展示了C和Cr元素组分对K405合金多种性能的交互影响。在C元素含量0.10%~0.16%时,屈服强度随C含量增大而减小;抗拉强度随Cr含量增大先增后减,在Cr含量为10.50%时达最大值;延伸率随Cr含量增大而增大,C含量变化影响较小;断面收缩率随Cr含量增大而增大,随C含量增大而减小。此外,持久极限和持久寿命均随C含量减小和Cr含量增大而增大。这些交互影响规律为优化合金性能提供了有价值的参考,通过精准控制元素组分,可有效提升合金的屈服强度、抗拉强度、延伸率、断面收缩率、持久极限及持久寿命等性能。
3.结论
在数据存在缺失的情形下,充分利用其他数据包含的 信息,相比于单标签建模预测方法,基于深度神经网络模型的方法实现了同时预测多个标签,而且提高了预测精度。证明了改进损失函 数的深度神经网络模型预测效果比单标签预测方法有明显的提升该方法具有一定的实用性,是一种预测铸造高温 合金性能的有效方法,有利于铸造高温合金材料的应用与开发。
感谢辽宁省教育厅系列项目(JYT2020121,JYT2020153)、航空科学基金项目(2020Z006054002)、国防重点学科实验室项目(SHSYS202208)、校博启动项目(20YB17)和沈阳航空航天大学2024年大学生创新训练计划项目(D202311151341425143)的支持
。
参考文献
[1]郭宝林.标签有限或缺失情形下的多标签学习方法研究..长沙:国防科技大学研究生院,2018
[2]Silver D, Huang A, Maddison C I, et al. Mastering the game of Go with deepneural networks and tree search[J]. Nature, 2016, 529(7587): 484-489.
[3]Ramprasad R, Batra R, Pilania G,et al. Machine learning in materialsinformatics: recent applications and prospects[J]. npj Computational Materials,2017,3:54.
[4]吴德振,杨为良,徐恒雷,等.高强高导铜合金的应用与制备方法[J].热加工工艺,2019,48(4):19-25.
[5] Jin H X. Zhang JX, Li P, Zhang YJ, Zhang WY, Qin JY,Wang L H.LongH B. Li W. Shao R W, Ma E, Zhang Z, Han XD. Atomistic mechanism of phase transformation between topologically close-packed complex intermetallics [J]. Nature Communications, 2022, 13(2487): 1-8.