本文选用的样品在Liu等构建的MAL基础上(316种)进行扩充, 共包含351种类火星地质标样。 本研究基于火星常见岩石矿物类型和Utopia平原的成分特征, 遴选了351种类火星岩石和矿物样品, 共包含208种火成岩/矿物、 68种沉积岩/矿物、 64种变质岩/矿物和11种矿石。 上述遴选的样品采用切割、 破碎、 研磨、 筛选等步骤加工为< 38 μ m的粉末, 保证样品化学成分在激光光斑尺度下(亚毫米级别)的均匀性。 本研究采用X射线荧光表征粉末样品的化学成分信息(SiO₂、 Al₂O₃、 Fe₂O_3T、 MgO、 CaO、 Na₂O、 K₂O、 TiO₂等)。

上述样品采用山东大学LIBS系统(SDU-LIBS)^[42], 在模拟火星环境下(700 Pa、 CO₂气氛)采集LIBS光谱数据。 SDU-LIBS采用1 064 nm的窄脉宽(6 ns)高能脉冲激光(激光能量201 mJ), 光谱范围230~850 nm。 每个样品采集三个不同位置, 每个位置采集10条LIBS光谱并取平均, 降低样品潜在不均匀性和激光不稳定性的影响, 共获得10530个等离子体的LIBS光谱, 构建了LIBS光谱数据库并发布于国家科技基础条件平台-国家空间科学数据中心(https://www.nssdc.ac.cn)。

LIBS数据在建模前进行了连续背景扣除和归一化处理。 预处理前后的LIBS光谱数据如图1所示。 LIBS数据的预处理步骤如下:

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 长石石英砂岩的LIBS光谱Fig.1 LIBS spectrum of feldspathic quartz sandstone

(1)连续背景扣除: LIBS光谱中的连续背景产生于等离子扩散过程, 等离子体中的自由电子与离子碰撞导致能量变化(韧致辐射)和离子-电子复合过程(复合辐射), 都会产生能量连续的光子, 表现为LIBS光谱中的连续背景^[43]。 本研究采用三次样条插值拟合LIBS光谱的连续背景并直接扣除。

(2)归一化处理: LIBS光谱测试过程中激光能量和CCD响应的变化可能导致LIBS光谱峰强的变化。 ChemCam团队通常采用LIBS光谱的全谱强度归一和单光谱仪强度归一方法^{[36, 38]}, 但这两种方法中多谱峰元素(如Fe等)的强度误差对归一化的影响较大。 因此, 本研究采用LIBS光谱中的最强峰进行归一(即Min-Max归一)。

本研究采用多种机器学习方法(OLS、 PLS、 OMP、 SVM、 LASSO、 Ridge、 ENet等)、 集成学习(GBR)和深度学习算法(MLP)构建元素定量反演模型。 模型简介及参数设置(表1)如下:

表1

Table 1

表1(Table 1)

表1 机器学习算法超参设置及调参结果 Table 1 Parameters of machine learning models Model name Name of parameters Initial parameters Final parameters SiO2 Al2O3 Fe2O3T MgO CaO Na2O K2O TiO2 OLS - PLS n_components 1~50 8 9 10 10 11 31 12 18 OMP n_nonzero_coefs 1~50 40 24 41 23 40 50 26 50 SVR C 0.1~10 8.8 4 7.9 8.5 6.1 9.1 1.9 5.2 epsilon 0.01~0.1 0.056 0.036 0.011 0.011 0.071 0.036 0.096 0.071 LASSO alpha 0.002~0.394 0.01 0.01 0.002 0.002 0.002 0.002 0.002 0.002 Ridge alpha 1× 10-6~10 1.389 1.931 0.720 1.000 1.000 0.019 0.720 0.100 ENet alpha_num 0.002~0.394 0.002 0.002 0.002 0.002 0.002 0.002 0.002 0.002 l1_ratio 0~1 0.6 0.7 0.9 0.9 1 0 0.7 0 GBR n_estimators 10~50 50 50 50 50 50 50 50 40 max_depth 2~7 7 5 3 2 3 2 3 3 MLP hidden_layer_sizes 10~490 70 50 490 10 30 450 10 30

表1 机器学习算法超参设置及调参结果 Table 1 Parameters of machine learning models

OLS是基础的线性回归方法, 利用最小二乘法分析变量之间的关系并建模^[44]。

PLS在OLS基础上, 通过寻找协方差最大的投影方向, 解决多重共线性问题, 在LIBS光谱反演方面应用广泛, 如ChemCam最初的LIBS光谱反演模型就基于PLS方法建立^[36]。 PLS的超参数为n_components, 即要保留的LIBS光谱特征数。 本研究将n_components的调节范围设置为1~50, 最大迭代次数1 500次。

OMP通过迭代选择与元素成分最相关的LIBS光谱特征, 实现输入信号的特征选择^[45]。 OMP算法的超参为n_nonzero_coefs, 即模型解中期望的非零项数目。 本研究将n_nonzero_coefs的调节范围设置为1~50。

SVR是一种基于支持向量机的回归方法, 通过构建回归残差最小的超平面实现元素含量反演^[46]。 SVR的超参为C和epsilon, 其中C为正则化参数, 控制间隔大小和误差, epsilon为松弛变量, 表示允许数据点位于间隔或误差范围内, 参数调节范围分别为0.1~10和0.01~0.1, 最大迭代次数1 500次。

LASSO通过添加L1正则化, 将一些冗余特征系数收缩为零, 实现光谱特征的自动选取^[47]。 LASSO模型的超参为alpha, 是控制L1正则化强度的超参, 本研究该参数调节范围为0.002~0.394, 最大迭代次数1 500次。

Ridge引入岭惩罚项(L2)调整模型系数, 降低模型参数方差, 有效避免过拟合^[48]。 与LASSO类似, Ridge的超参alpha是控制L2正则化强度的超参, 其调节范围设置为1× 10^-6~10, 最大迭代次数1 500次。

ENet结合了LASSO和Ridge的优势, 同时将L1和L2正则化项应用于线性回归的损失函数, 可以有效处理高维数据, 在LIBS光谱分析方面具有突出优势^[49]。 ENet的超参为alpha_num和l1_ratio, 其中alpha_num代表正则化强度, l1_ratio定义了L1和L2正则化的混合, 本研究将上述参数的调节范围分别设置为0.002~0.394和0~1, 最大迭代次数1 500次。

GBR是一种集成学习方法, 通过集成多个弱预测模型, 实现准确的元素含量反演^[50]。 GBR的超参为n_estimators和max_depth, 分别代表学习算法的数量和单个回归估计器的最大深度, 调参范围分别设置为10~50和2~7。

MLP是一种多层感知机回归算法, 采用全连接人工神经网络结构构建元素含量反演模型^[51]。 在本文中, 首先将光谱数据库采用主成分分析方法(PCA)进行降维, 提取每条光谱(6017通道)的前500个主要特征, 随后采用MLP建立深度学习模型; MLP采用Logistic作为激活函数, L-BFGS作为优化器, 与传统一阶和二阶牛顿法相比, 该优化器收敛速度快、 需要的内存小。 MLP设置的超参为hidden_layer_sizes, 即MLP中神经网络算法的隐藏层单元数, 调参范围设置为10~490。

将样品按80%和20%划分为训练集和测试集, 其中训练集包含280个样品, 共8 400条LIBS光谱, 测试集包含71个样品, 共2 130条LIBS光谱。 训练集和测试集样品成分分布特征如图2所示。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 训练集(a)和测试集(b)样品的成分特征Fig.2 Chemical compositions of training set (a) and test set (b) standards

本研究将训练集样品的LIBS光谱(8 400条)平均划分为五组, 利用网格搜索和交叉验证方法计算误差(RMSECV), 从而确定模型最优参数(RMSECV最小)。 以MLP模型为例, 网格搜索和交叉验证过程如下:

①将训练集8400条LIBS光谱平均分为五组(组1— 组5);

②利用组1— 组4的LIBS光谱(4 320条LIBS光谱)建立MLP模型, 该模型中的隐藏层单元数遍历10~490;

③将组5的LIBS光谱(1 080条LIBS光谱)输入上述模型获得预测成分, 计算该组光谱的RMSE值;

④重复5次步骤②和步骤③, 保证每组光谱均作为交叉验证中的测试光谱, 共获得5组RMSE值;

⑤计算5组RMSE的平均值, 选取RMSE最小的隐藏层单元数(图3);

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 MLP模型的网格搜索方法中SiO2和Fe2O3T调参过程 红点为RMSECV最低时的隐藏层单元数Fig.3 The hidden_layer_sizes selection for MLP models of SiO2 and Fe2O3T in the Grid Search method The red point indicates the best hidden_layer_sizes generating the minimum RMSECV

⑥利用步骤⑤获得的隐藏层单元数, 采用所有训练集光谱(8 400条)建立MLP模型。

调参结果如表1所示。 本研究采用最佳参数, 建立PLS、 OMP、 SVR、 LASSO、 Ridge、 ENet、 GBR和MLP模型(OLS无需调参), 并分别计算训练集和测试集的均方根误差(RMSE和RMSEP), 计算公式如式(1)和式(2)

RMSEele=1N∑i=1n(yi-y^i)2(1)

RMSEPele=1M∑i=1m(ypi-y^pi)2(2)

式(1)和式(2)中, RMSE_ele和RMSEP_ele分别为训练集和测试集中单元素(如SiO₂)的误差, N和M分别为训练集和测试集样品数(280和71), y_i和y_pi分别为训练集和测试集中元素真实含量, y^i和 y^pi分别为模型反演的训练集和测试集元素含量。 本研究通过对比RMSE_ele和RMSEP_ele评估模型是否发生过拟合。 对比来看, 除了OLS模型之外, 其他模型的RMSE和RMSEP相近, 没有发生明显的过拟合现象。

不同模型对不同元素的表现性能不同。 本研究选取了针对每种主量元素的最佳模型(较低的RMSEP)。 经对比, OLS的RMSEP最高, 对测试集的性能最差; PLS、 OMP、 SVM、 LASSO、 Ridge、 ENet、 GBR、 MLP等模型, 可通过遴选与样品成分相关的LIBS光谱特征, 在一定程度上抑制类火星岩石样品LIBS光谱的复杂基体效应。 例如(图4), GBR模型在反演MgO元素时, 279.9 nm处Mg元素的离子发射峰(Mg Ⅱ )在模型中的重要性最高(0.79), 其次是396.2 nm处的Al元素的原子发射峰(Al Ⅰ , 重要性0.05)和393.4 nm处的Ca元素谱峰(Ca Ⅱ , 重要性0.03), 说明在Mg元素反演过程中, Ca和Al元素的发射峰也有比较弱的贡献。 本文选用的多变量方法在建模过程中, 将类火星岩石样品中各元素的相互影响考虑在内(即化学基体效应), 可有效抑制天然未知岩石样品LIBS光谱中的复杂基体效应问题。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 GBR模型选取特征的重要性Fig.4 Feature importance in GBR models

在所有模型中, MLP对SiO₂、 Fe₂O_3T、 CaO和K₂O等主量元素的性能最好, RMSEP分别为4.40 wt%、 2.51 wt%、 1.57 wt%和0.72 wt%; GBR模型对Al₂O₃、 MgO、 Na₂O和TiO₂反演的RMSEP最低, 分别为2.81 wt%、 1.86 wt%、 0.80 wt%和0.42 wt%。 本文将最佳模型误差与基于ChemCam和SuperCam等LIBS数据库构建的模型误差进行了对比(表3)^{[38, 39]}, 发现本文模型与ChemCam和SuperCam的模型性能相当, 且SiO₂、 TiO₂、 Al₂O₃、 Fe₂O_3T、 MgO、 CaO和K₂O等主量元素的误差低于ChemCam数据库的误差, SiO₂和Fe₂O_3T的误差低于SuperCam数据的误差。

表2

Table 2

表2(Table 2)

表2 机器学习模型的RMSE和RMSEP值 Table 2 RMSE and RMSEP values of machine learning models Element OLS PLS OMP SVR LASSO Ridge ENet GBR MLP RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% RMSE /wt% RMSEP /wt% SiO2 4.88× 10-13 10.38 7.45 9.27 7.19 8.17 6.49 8.27 7.01 7.99 6.22 7.80 6.05 7.52 0.24 6.26 0.01 4.40 Al2O3 7.95× 10-14 8.03 3.52 4.47 3.78 4.13 4.88 5.34 3.88 4.13 3.29 4.19 3.30 4.01 0.53 2.81 0.01 3.07 Fe2O3T 1.18× 10-13 4.74 3.11 3.75 3.40 4.27 3.18 3.07 2.84 3.50 2.68 3.43 3.01 3.15 1.26 3.88 0.05 2.51 MgO 1.01× 10-13 6.68 3.00 3.59 3.03 3.63 2.81 3.74 2.67 3.13 2.66 3.46 2.73 3.19 1.31 1.86 0.12 3.81 CaO 2.21× 10-13 4.54 2.59 3.83 2.79 3.74 4.77 4.58 2.50 2.86 2.49 3.52 2.50 2.86 0.76 2.99 0.02 1.57 Na2O 4.16× 10-14 1.54 0.25 1.35 0.79 1.12 0.68 1.27 0.94 0.91 0.18 1.31 0.76 1.03 0.71 0.80 0.12 0.91 K2O 3.19× 10-14 1.68 0.81 0.88 1.00 1.12 1.31 1.23 1.03 0.89 0.74 0.88 1.02 0.90 0.54 0.79 0.02 0.72 TiO2 1.98× 10-14 0.96 0.30 0.77 0.50 0.86 0.54 0.70 0.57 0.89 0.23 0.80 0.49 0.87 0.31 0.42 0.01 0.59

表2 机器学习模型的RMSE和RMSEP值 Table 2 RMSE and RMSEP values of machine learning models

表3

Table 3

表3(Table 3)

表3 SDU-LIBS与ChemCam、 SuperCam模型误差对比 Table 3 Comparison between the RMSEP values of the models for SDU-LIBS, ChemCam and SueprCam dataset Elements RMSEP/wt% Models for SDU-LIBS Models for ChemCam[38] Models for SuperCam[39] SiO2 4.40 5.3 6.1 Al2O3 2.81 3.5 1.8 Fe2O3T 2.51 2.6① 3.5② MgO 1.86 2.2 1.1 CaO 1.57 2.7 1.3 Na2O 0.80 0.6 0.5 K2O 0.72 0.8 0.6 TiO2 0.42 1.0 0.3

表3 SDU-LIBS与ChemCam、 SuperCam模型误差对比 Table 3 Comparison between the RMSEP values of the models for SDU-LIBS, ChemCam and SueprCam dataset

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 机器学习、 集成学习和深度学习模型反演主量元素的RMSE和RMSEPFig.5 RMSE and RMSEP of the machine learning, ensemble learning, and deep learning models

图6

Fig.6

	Figure Option ViewDownloadNew Window
	图6 性能最佳模型的反演结果与真实元素含量的对比Fig.6 Comparable of the actual and derived chemical compositions using the best model