土壤样品采自山西省内农田表层土壤(0~0.2 m), 土壤类型均为褐土。 采样时间为2019年4月初, 农田作物种植之前。 按照等量、 随机5点混合的原则在每个采样单元相对中心的位置采集土壤样本, 共采集66个土壤样本。 所有样品手动清除杂物并自然风干, 将每份土样分为两份, 一份研磨过筛, 用于土壤有机质含量测定, 另一份直接用于高光谱图像采集。

土壤有机质含量测定采用重铬酸钾-外加热法。 其土壤有机质含量统计结果如图1所示, 66个样品的有机质含量最小值为4.790 g· kg^-1, 最大值为28.917 g· kg^-1, 平均值为16.611 g· kg^-1, 标准差为5.210 g· kg^-1, 变异系数为31.61%, 有机质含量数据服从正态分布。

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 土壤有机质含量统计Fig.1 Statistics of organic matter content in soil samples

土壤近红外-可见光高光谱图像采集使用美国 Headwall Photonices公司的Starter Kit扫描平台, 光谱范围379~1 700 nm; 可见光和近红外光谱分辨率分别为0.727和4.715 nm。 土壤样本装入直径约3 cm, 深约1 cm的容器中, 抹平并压实, 放到移动扫描平台上扫描一次得到一幅高光谱图像。 平台参数设置: 平台物距20 nm, 移动速度15.55 mm· s^-1, 曝光时间0.9 ms。

基于ENVI5.3软件, 获取每个土壤样本区像素点的光谱平均曲线, 作为该土壤样本的光谱曲线。 为了减少光谱测定过程中产生的误差, 进一步提高反射率数据与土壤指标之间的相关性, 基于Matlab2016b软件采取小波变换对光谱进行去噪平滑、 对去噪光谱数据(R)[图2(a)]分别进行倒数的一阶微分[(1/R)'][图2(b)]、 对数倒数的一阶微分[(1/lgR)']光谱变换[图2(c)]。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 反射率及其变换的土壤光谱曲线Fig.2 Soil spectral reflectance curves and its transformations

由图2可知, 不同土壤有机质含量光谱反射率均随波长的增加而增加, 且随着波长的增加光谱反射率增长速度减慢; 在1 657 nm附近, 土壤反射率值达到极大值; 在379~425 nm之间、 1 393~1 426 nm之间、 1 657~1 700 nm 波段之间, 土壤光谱反射率随波长增加而下降, 在405和1 411 nm附近处存在明显的水分吸收峰。 经过倒数一阶微分和对数倒数一阶微分变换之后的光谱曲线的差异特征更加突出, 两种变换光谱曲线趋势基本一致。

1.3.1 SGD模型

随机梯度下降(stochastic gradient descent, SGD)^[15]是一种无约束迭代优化算法, 其目标是一个线性评价函数 fx=ωTx+b, 其中, ω和 b模型参数通过最小化训练误差[式(1)]求得。

E(ω, b)=1n∑i=1nL[yi, f(xi)]+αR(ω)(1)

式(1)中, L为损失函数, 采用普通最小二乘法, R为正则化项, α > 0是一个非负超平面。

1.3.2 RF模型

随机森林(RandomForest, RF)^[15]是一种元估计器, 采用Bootstraping随机有放回采样方法生成n个决策树模型, 对于单个决策树模型根据最小均方差进行分裂, 最终使用多棵树预测值的均值来提高预测精度和控制过拟合。 其核心目标函数为: Cα (Tt)=C(Tt)+α |Tt|, 其中, α 为正则化参数, |Tt|是子树T的叶子节点数量, C(Tt)为预测误差, 采用最小均方差度量, 即 min[min∑(yi-c1)2+min∑(yi-c2)2]。

1.3.3 AdaBoost模型

AdaBoost算法^[15]是一种可以将弱学习器提升为强学习器的Boosting集成算法, 其算法使用加法模型[式(2)], 损失函数为指数函数[式(3)]其核心目标是每次迭代将当前基函数在训练集上的损失函数最小化, 据此得到每个样本的更新权重。

f(x)=∑m=1Mαmhm(x)(2)

L(y, f(x))=exp(-yf(x))(3)

式中, x为输入样本, α _m为权重系数, h为回归树。

1.3.4 GBDT模型

梯度提升决策树(gradient boosting decision tree, GBDT)^[16]是一种迭代决策树算法。 模型定义为[式(4)]

F(x, w)=∑m=0Mαmhmx, wm=∑m=0Mfmx, wm(4)

式(4)中, x为输入样本; w为模型参数; h为回归树; α 为每棵树的权重。

GBDT每轮的训练是在上一轮的训练的残差[式(5)]基础之上进行训练的, 其核心目标是利用损耗函数的负梯度作为当前模型值。 GBDT模型损失函数为平方差[式(6)], 且平方损失函数是一个凸函数, 直接求导后得到训练样本均值 f0(x)=c=1n(∑i=1nyi)。

rm, i=-∂L(yi, f(xi)∂f(x)f(x)=f(m-1)(x)(5)

L(y, f(x))=(y-f(x))2(6)

1.3.5 XGBoost模型

极限梯度提升算法(eXtreme gradient boosting, XGBoost)^[17]是一种Tree Boosting的可扩展可并行可高效率运算的机器学习系统。 其核心目标是添加新树并拟合伪残差以减少损失函数。 XGBoost的目标函数由梯度提升算法中的损失函数[式(7)]和正则化项[式(8)]组成。 其定义为

L(φ)=∑inl(yi, y^i)+∑kΩ(fk)(7)

Ω(f)=γT+12λ‖ω‖2(8)

式中, n为训练函数的样本个数, l为单个样本的损失, Ω 为正则化项, γ 和λ 为设置参数, ω 为决策树中所有叶节点值构成的向量, T为叶节点个数。

1.3.6 SGM模型

Stacking是一种分层模型集成框架^[15], 其基本原理是由初始数据集训练出初级学习器, “ 生成” 一个由各初级学习器的输出构成的新数据集用于训练次级学习器, 产生一个比初级学习器具有同等或更好的预测性能的元模型。

本研究堆叠泛化框架(stacked generalization model, SGM)采用4个初级学习器GBDT、 RF、 Adaboost和XGBoost和一个元模型SGD。 为避免过拟合, 采用k折交叉验证方式(k取5), 用训练初级学习器未使用的样本来产生次级学习器的训练样本。 初始训练集D被随机划分为k个大小相似的结合D₁, D₂, …, D_k。 令D_j和 D-j=D/D_j分别表示第j折的测试集和训练集。 给定T个初级学习算法, 初级学习器 ht(j)通过在 D-j上使用第t个学习算法而得。 对D_j中每个样本x_i, z_it= hi(j)(x_i), 则由x_i所产生的次级训练预测数据集为z_it=(z_i1; z_i2; …; z_iT), 目标值为y_i。 于是, 在整个交叉验证过程结束后, 从这T个初级学习器产生的次级训练集是D'={(z_i, y_i) }i=1m, 然后D'将用于训练次级学习器。 堆叠概化框架如图3所示。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 堆叠泛化模型Fig.3 Stacked generalization model

各模型的实现均基于PyCharm平台, 各模型涉及的参数均采用默认参数。

模型预测能力及稳定性的评价通过决定系数(R²), 其值越接近于1, 模型精度越高; 绝对误差(AE)、 平均绝对误差(MAE)和均方根误差(RMSE), 其值越小模型准确性越高; 通过相对分析误差(RPD)进一步对模型的好坏进行评价, 当RPD> 2时, 说明模型可较好预测, 当 1.4< RPD< 2时, 说明模型可粗略预测, 当RPD< 1.4时, 说明模型无法预测^[3]。

对原始光谱、 倒数一阶微分和对数倒数一阶微分与土壤有机质含量之间的相关性进行分析(图4)。 由图4可知, 有机质含量与原始光谱呈负相关, 相关系数曲线均比较平滑, 最大相关系数为0.297, 且各相关系数均未达到0.01显著性水平; 有机质含量与倒数一阶微分、 对数倒数一阶微分的相关系数变化起伏较大, 在正负值之间波动, 绝对最大相关系数分别为0.611和0.548, 说明倒数一阶微分和对数倒数一阶微分变换处理都可以将波段范围内一些隐藏有机质光谱吸收特征表现出来, 与对数倒数一阶微分相关系数相比倒数一阶微分与有机质含量的相关性更强, 且在0.01显著性水平下表现更为突出。 为此, 选取倒数一阶微分光谱数据作为有机质含量预测光谱数据, 并采用递归特征消除法进行敏感波段选取, 最终选取394.925、 849.175、 849.901、 850.628、 851.355、 852.082、 853.535、 1 020.65、 1 034.800、 1 378.970、 1 383.680、 1 388.400和1 393.110 nm 13个波段的光谱值作为预测有机质含量的特征波段。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 有机质含量与光谱相关系数Fig.4 Correlation coefficients of organic matter content and spectral reflectance

将通过相关性与递归特征消除法筛选出的敏感波段作为RF, GBDT, XGBoost和AdaBoost回归模型的输入值, 以土壤有机质的含量作为目标值, 将RF, GBDT, XGBoost和AdaBoost回归模型的预测值作为SGM模型的输入值, 以土壤有机质含量作为目标值, 预测精度结果如表1所示。

表1

Table 1

表1(Table 1)

表1 模型预测精度对比分析 Table 1 Comparison of estimation accuracies 模型 R2 MAE RMSE RPD SGM 0.819 1.742 2.308 2.256 GBDT 0.776 2.069 2.576 2.023 RF 0.774 2.165 2.714 1.920 AdaBoost 0.773 2.171 2.728 1.910 XGBoost 0.733 2.187 2.770 1.881

表1 模型预测精度对比分析 Table 1 Comparison of estimation accuracies

通过预测结果可以看出, 4个初级学习器模型的决定系数R²由大到小依次为: GBDT(0.776), RF(0.774), AdaBoost(0.773), XGBoost(0.733)与4个初级学习器模型相比, 基于SGM构建模型的拟合优度R²最高达到了0.819, 均优于其他4个模型。

4个初级学习器模型的平均绝对误差(MAE)和均方根误差(RMSE)由小到大依次为: GBDT(2.067), RF(2.165), AdaBoost(2.171)和XGBoost(2.187); 与4个初级学习器模型相比, 基于SGM构建模型的平均绝对误差MAE和均方根误差RMSE值最低分别为1.724和2.308, 均低于其他4个模型; SGM模型的决定系数R²和相对分析误差RPD较其他算法平均R²和平均RPD分别提高了0.055和0.323, 平均绝对误差MAE、 均方根误差RMSE分别为1.742和2.308 g· kg^-1, 较其他算法平均MAE和平均RMSE分别降低了0.406和0.389 g· kg^-1, 优化效果明显, 表明SGM模型的有机质预测具有较好的精度与准确性。

进一步从相对分析误差RPD分析可知, SGM模型和GBDT模型的RPD分别为2.256和2.023, 表明SGM模型和GBDT模型均可以较好的对有机质含量进行预测, 且SGM模型预测要优于GBDT; RF, XGBoost, AdaBoost模型的RPD小于2, 表明其可以进行粗略的预测。

分析5种模型各个样本的预测值与实际值的绝对偏差, 并确定预测值与测试集真实值之间的绝对值误差。 结果如图5所示。

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 各模型样本预测值、 实际值及绝对偏差Fig.5 The predicted value, actual value and absolute deviation of different models

从图5中可以看到, 各模型绝对误差最大值由大到小依次为AdaBoot模型为8.012 g· kg^-1、 RF模型为7.583 g· kg^-1、 XGBoost模型为6.718 g· kg^-1、 GBDT模型为6.472 g· kg^-1、 SGM模型为5.199 g· kg^-1; 各模型绝对误差最小值由大到小依次为GBDT模型为0.062 g· kg^-1、 RF模型为0.055 g· kg^-1、 AdaBoot模型为0.049 g· kg^-1、 XGBoost模型为0.048 g· kg^-1、 SGM模型为0.028 g· kg^-1; 各模型绝对误差标准差由大到小依次为XGBoost模型为1.700 g· kg^-1、 RF模型为1.635 g· kg^-1、 AdaBoot模型为1.621 g· kg^-1、 GBDT模型为1.534 g· kg^-1、 SGM模型为1.514 g· kg^-1; 表明SGM模型对于有机质含量的预测较稳定。

进一步将绝对误差分为5个等级, 分别为≤ 1.00, (1.00, 2.00), (2.00, 3.00), (3.00, 4.00), > 4.00进行频率分布统计, 其结果如表2所示。

表2

Table 2

表2(Table 2)

表2 各模型不同绝对误差频率分布统计 Table 2 Statistics of frequency distribution of different absolute errors 模型 绝对误差/(g· kg-1) ≤ 1.00 1.00~2.00 2.00~3.00 3.00~4.00 > 4.00 SGM 频率/% 41.18 19.12 17.65 11.76 10.29 累积频率/% 41.18 60.29 77.94 89.71 100.00 GBDT 频率/% 28.79 27.27 18.18 15.15 10.61 累积频率/% 28.79 56.06 74.24 89.39 100.00 RF 频率/% 28.79 28.79 12.12 13.64 16.67 累积频率/% 28.79 57.58 69.70 83.33 100.00 AdaBoost 频率/% 25.76 25.76 19.70 12.12 16.67 累积频率/% 25.76 51.52 71.21 83.33 100.00 XGBoost 频率/% 33.33 25.76 10.61 10.61 19.70 累积频率/% 33.33 59.09 69.70 80.30 100.00

表2 各模型不同绝对误差频率分布统计 Table 2 Statistics of frequency distribution of different absolute errors

由表2可知, SGM模型对于有机质含量预测的绝对误差小于1.00 g· kg^-1占到41.18%, 小于2.00 g· kg^-1占到60.29%, 均高于其他4个模型; 绝对值误差超过4.00 g· kg^-1占的比例最大的为XGBoost模型(19.7%), 比例最小的为SGM(10.29%); 表明SGM模型对于有机质含量的预测精度较高。

随机性和不可预测性是任何回归模型的关键组成部分, 通过残差图对模型的合理性及数据的可靠性进行检验(图6), 由图6可知, 5个模型的残差均为随机分布, 不存在异方差特征, 残差不包含可预测的信息, 表明5个模型均为合理预测模型。

图6

Fig.6

	Figure Option ViewDownloadNew Window
	图6 各模型残差分布图Fig.6 The residual distribution of each model

通过标准化残差图对预测数据残差序列正态性进行检验(图7)。

图7

Fig.7

	Figure Option ViewDownloadNew Window
	图7 各模型标准化残差分布图Fig.7 Standardized residual distribution of each model

由图7可知, 5个模型均达到了95%的标准化残差在-2~2之间, 表明其残差服从正态分布。