实验所用样本为云南文山三七, 实验前将剪口、 主根和支根分别粉碎, 通过80目筛盘进行筛选。 每次通过电子天平称取50 g三七粉末作为一个样本, 放置于玻璃器皿中, 保持表面平坦, 共制备了300个样本(每个部位100个样本)。

本研究使用的的高光谱成像系统(如图1所示)主要包括: 光谱仪(400~1 000 nm)、 CCD相机、 电控移动平台、 卤素灯、 光源调节器和计算机。 为避免环境光的干扰, 所有实验均在暗箱中完成。 相机的曝光时间为10.2 ms, 物距为450 mm, 电控移动平台的速度为6.6 mm·s^-1。 获取的原始高光谱图像I_o利用式(1)进行校正

Ic=Io-IdIw-Id(1)

式(1)中, I_c为校正后的图像, I_d为遮盖镜头(~0%反射率)得到的黑标定图像, I_w为扫描标准白板(~100%反射率)得到的白标定图像。

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 高光谱成像系统Fig.1 Hyperspectral imaging system

在对高光谱图像进行校正后, 将三七粉末样本中心直径为400像素的圆形区域内所有像素点的光谱取平均作为单个三七粉末样本最终的反射光谱。 去除受仪器噪声影响较为明显的初始波段后, 最终有效的光谱范围为471~1 000 nm, 共417个波段。

由于三七粉末的颗粒大小不均匀, 在采集光谱的过程中容易发生散射现象。 此外, 受仪器性能的影响, 光谱信号中难免掺杂着部分随机噪声, 因此对光谱数据进行预处理是必要的, 可以有效提高后续所建立的模型的精度和鲁棒性^[3]。 采用Savitzky-Golay(SG)平滑结合标准变量变换(standard normalized variate, SNV)对原始的光谱数据进行预处理。 SG平滑可以通过低通滤波的方式消除光谱信号中的噪声, 提高信噪比^[4]。 SNV可以消除由散射产生的光谱差异, 减小基线漂移^[5]。

1.4.1 CARS

CARS^[6]是一种基于进化论中“适者生存”模式的变量选择方法。 在CARS中, 通过迭代的方式, 保留适应性较强的变量, 移除适应性较差的变量。 CARS选择特征变量的步骤如下:

(1)通过蒙特卡洛(Monte Carlo, MC)采样随机抽取一定比例的样本建立偏最小二乘(partial least squares, PLS)模型, 并以回归系数的绝对值作为对应变量的权重。

(2)利用指数衰减函数(exponentially decreasing function, EDF)消除一定数量权重较小(即适应性较差)的变量, 然后采用自适应重加权采样(adaptive reweighted sampling, ARS)进一步选择关键变量。

(3)利用关键变量构成的样本子集再次建立PLS模型, 并计算交叉验证均方根误差(root mean square error of cross validation, RMSECV)。

(4)重复步骤(1)—步骤(3)直到达到设定的MC采样次数。 最终, 将RMSECV最小的PLS模型中的变量选择为特征变量。

1.4.2 BCARS

尽管CARS算法具有较高的计算效率而得到了广泛的应用, 但其缺点是将每个变量当做独立的个体, 忽略了变量之间的交互作用, 导致部分有用的信息变量被移除和所选择的特征变量中仍可能存在部分冗余信息。 针对以上缺点, 提出了一种考虑了变量间交互作用, 适应于分类问题的BCARS算法, 具体步骤如下:

(1)假设输入矩阵为X_m×n, 输出矩阵为Y_m×1, 其中m和n分别为样本和变量的数量, 通过MC采样随机选取k个样本, 得到新的输入和输出矩阵X1_k×n, Y1_k×1。

(2)生成一个与输入矩阵X1大小相同, 只包含0和1的二进制矩阵B_k×n, 其中每一列中0和1的数量相等。 矩阵B_k×n的每一行都分别用来决定矩阵X1中用于建模的变量, 数值“1”表示对应的列变量用于建模, 数值“0”表示不用于建模。

(3)将矩阵B第j列中所有的0更改为1, 得到矩阵B1, 然后将矩阵B1第j列中所有的1更改为0, 得到矩阵B0, B0和B1的生成过程如图2所示。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 二进制矩阵生成过程Fig.2 The process of generating binary matrices

(4)通过变量间的交互作用评价每个变量的重要性。 利用矩阵B1的第i(i=1, 2, …, k)行分别建立一个基于X1_k×n, Y1_k×1的偏最小二乘判别分析(partial least squares discriminant analysis, PLS-DA)分类模型, 可以得到第j个变量的交叉验证准确率向量C1_j(k行1列); 同理, 利用矩阵B0可得到对应的向量C0_j。 此时, 模型集群分析可以基于C1_j和C0_j来评价第j个变量的重要性。

(5)计算C1_j和C0_j的平均值, 分别记为M1_j和M0_j, 两者的差定义为式(2)

Mj=M1j-M0j(2)

利用威尔科克森检验(Wilcoxon test)对C1_j和C0_j进行统计分析, 根据p值及M_j将所有变量划分为如下三类, 见式(3)

Vi∈Vinformative, ifMj> 0, Pj< 0.05Vi∈Vinterfering, ifMj< 0, Pj< 0.05Vi∈Vuninformative, ifPj≥0.05(3)

其中V_informative, V_interfering和V_{uninformative}分别代表信息变量, 干扰变量和无信息变量。 将归一化处理后的M_j作为第j个变量的权重。

(6)利用EDF移除变量, 其中干扰信息变量被优先移除, 其次是无信息变量, 最后是信息变量。 采用ARS进一步选取关键变量构成新的样本子集, 然后利用新的样本子集再次建立PLS-DA分类模型并计算交叉验证准确率。 此外, 所选取的关键变量在下轮迭代中用于生成新的输入矩阵。

(7)重复步骤(1)—步骤(6)直到达到最大MC采样次数。 最终选择交叉验证准确率最高的PLS-DA模型中的变量被选择为特征变量。

BCARS算法的流程如图3所示。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 BCARS算法的流程图Fig.3 Flowchart of BCARS algorithm

XGBoost^[7]是一种基于梯度提升框架的新型机器学习算法。 在梯度提升树的基础上, XGBoost在loss函数中引入了二阶泰勒展开以加快优化速度, 并在目标函数中添加了归一化以避免过度拟合。 由于其出色的性能, XGBoost已经被用来解决一些实际问题, 如COVID-19的传输时间序列预测, 洪水风险评估和乳腺癌的识别等^{[8, 9, 10]}, 但在高光谱模型中的应用还很少。 因此, 本文应用XGBoost算法建立三七不同部位粉末的分类模型以期提高预测性能。 作为对比, 本研究也使用了传统的SVM算法。

采用SG平滑和SNV结合的方法对原始光谱数据进行预处理, 其中SG平滑点数和多项式阶数分别设置为5和2, 结果如图4所示。 对比两图4(a)和(b)发现, SG-SNV预处理后光谱曲线中的毛刺明显减少, 不同类型三七粉末样本间的光谱差异降低。 图4(c)为预处理后三七剪口、 支根和主根部位粉末的平均光谱曲线, 可以看出三种三七粉末的光谱曲线整体趋势相同, 但在部分波段范围内存在较为明显的差别, 为建立三七不同部位粉末的鉴别模型提供了依据。 在480 nm附近, 三者的光谱曲线都有较强的吸收, 这解释了三七不同部位的粉末颜色接近, 很难从外观上进行区分; 980 nm附近的弱吸收峰与水的O—H伸缩振动第二泛音有关, 可以解释为三七粉末中几乎不含水^[11]。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 预处理前后光谱曲线 (a): 原始光谱曲线; (b): SG-SNV预处理后光谱曲线; (c): 预处理后不同部位三七粉的平均光谱曲线Fig.4 Spectral curves before and after preprocessing (a): Raw spectral curves; (b): Spectral curves after SG-SNV preprocessing; (c): Mean spectral cureves of Panax notoginseng powder of different parts after preprocessing

特征波长选择可以有效消除光谱变量中的冗余和重叠信息, 降低模型的复杂程度, 有利于多光谱系统和便携式仪器的开发。 在本文中, CARS和BCARS用来选择特征波长, 在两种算法中MC采样都设置为100次并使用5折交叉验证。 最终CARS和BCARS算法分别选取了14个和9个特征波长, 如表1所示。 740和900 nm附近的波段分别与C-H键的第四和第三泛频相关, 这可能是由三七不同部位中多糖含量差异导致的。

表1

Table 1

表1(Table 1)

表1 CARS和BCARS的特征波长选择结果 Table 1 Results of feature wavelength selection for CARS and BCARS 算法 波长数量 特征波长 CARS 14 492.6, 495.1, 572.6, 585.1, 645.4, 653.0, 717.3, 723.7, 731.4, 744.2, 751.9, 880.3, 911.4, 923.7 BCARS 9 490.2, 495.1, 584.5, 735.2, 750.6, 884.2, 895.2, 911.4, 916.6

表1 CARS和BCARS的特征波长选择结果 Table 1 Results of feature wavelength selection for CARS and BCARS

在本研究中, XGBoost的实验环境为Python3.7, 主要的超参数设置如表2所示。 在SVM中采用RBF核函数, 惩罚参数和核函数参数的值由交叉验证寻优的方式确定。

表2

Table 2

表2(Table 2)

表2 XGBoost模型的超参数设置 Table 2 Hyper-parameter settings of XGBoost model 超参数 取值 子学习器数量(n_estamitors) 500 学习率(learning rate) 0.1 树的最大深度(max_depth) 5 最小分裂增益(gamma) 0.1 样本采样率(subsample) 0.8 特征采样率(colsample_bytreee) 0.8 子节点中样本权重和的最小值 (min_child_weight) 1

表2 XGBoost模型的超参数设置 Table 2 Hyper-parameter settings of XGBoost model

将300份三七粉末样本每类按1∶1的比例随机划分为训练集和测试集。 基于全光谱数据、 CARS和BCARS特征波长数据, 分别建立SVM和XGBoost分类模型, 结果如表3所示。 从表3可以看出, 基于全光谱数据建立的SVM和XGBoost分类模型均已取得较好的分类效果, 但两个模型的训练集和测试集的分类准确率相差都较大, 存在过拟合现象。 经过特征波长选择后, 由于光谱数据中的冗余和干扰信息被移除, SVM和XGBoost模型的分类精度和鲁棒性都得到了提高。 在分类精度方面, 基于三种光谱数据的XGBoost模型的分类准确率均高于SVM模型, 表明XGBoost算法比传统的机器学习算法具有更强的发掘变量间关系的能力; 基于BCARS特征波长数据的SVM和XGBoost模型的分类准确率均高于基于CARS特征波长模型的分类准确率, 表明BCARS具有更强的特征选择性能。 在建模复杂程度上, CARS和BCARS均有效地简化了模型, 所用波长数量分别仅为全光谱的3.4%和2.2%。 最终, 基于BCARS特征波长的XGBoost模型分类效果最佳, 训练集和测试集的分类准确率分别达到了100%和99.33%。 因此, 利用高光谱技术结合BCARS-XGBoost模型可以有效地对三七不同部位的粉末进行无损鉴别。

表3

Table 3

表3(Table 3)

表3 XGBoost和SVM的建模结果 Table 3 Modeling results of XGBoost and SVM 模型 光谱 数据 波长 数量 分类准确率/% 训练集 测试集 全光谱 417 97.33%(146/150) 86.67% (130/150) XGBoost CARS 14 98.67% (148/150) 97.33% (146/150) BCARS 9 100% (150/150) 99.33% (149/150) 全光谱 417 93.33%(140/150) 80.67% (121/150) SVM CARS 14 96.67% (145/150) 94.67% (142/150) BCARS 9 99.33% (149/150) 98% (147/150)

表3 XGBoost和SVM的建模结果 Table 3 Modeling results of XGBoost and SVM