对红小豆叶片光谱数据进行EMD分解, 生成一系列IMF分量和残差项, 每个IMF的幅值和频率不同, 利用低频分量重构光谱信号, 可以达到一定的降噪目的。 选择使用余弦相似度指标对IMF分量进行优化, 具体计算公式为

CS(XIMF, Xorg)=∑n=1NXIMF(n)Xorg(n)∑n=1NXIMF2(n)∑n=1NXorg2(n)(1)

式(1)中, X_IMF和X_org分别表示IMF分量和原始信号。 计算各IMF分量与原始信号的余弦相似度, 结果如表1所示。 将各IMF分量余弦相似度的平均值0.100 1设为阈值, IMF5和IMF6的相似度分别为0.143 3和0.196 8, 显著高于阈值, 因此被认为是信号的主导分量, 而IMF1— IMF4的余弦相似度小于阈值, 被认为是噪声主导分量, 即信号中含有较多的噪声干扰。

表1

Table 1

表1(Table 1)

表1 EMD分解后各IMF分量的余弦相似度 Table 1 IMF cosine similarity obtained by EMD decomposition 分量 IMF1 IMF2 IMF3 IMF4 IMF5 IMF6 平均值 余弦相似度 0.053 4 0.074 1 0.051 6 0.081 1 0.143 3 0.196 8 0.100 1

表1 EMD分解后各IMF分量的余弦相似度 Table 1 IMF cosine similarity obtained by EMD decomposition

传统的EMD去噪方法直接消除了所有以噪声为主的信号成分。 然而, 高频信号中也包含有效信号, 如果直接将其剔除, 会造成信号的缺失。 为了解决信号失真问题, 进一步采用小波分解对噪声主导的IMF分量进行去噪处理。

小波分解是一种将信号分解为不同频率的小波分量的方法, 在序列数据的噪声去除和有效信息提取方面具有独特的优势, 被广泛应用于非平稳信号的分析^[11]。 影响降噪效果的因素主要包括小波基函数和小波分解层数的选择。 将基于信噪比(SNR)和均方根误差(RMSE)两个指标选取合适的超参数。 对比Symlet小波系(symN)和Daubechies(dbN)小波系在不同分解层数下的降噪效果, 结果如表2和表3所示。

表2

Table 2

表2(Table 2)

表2 不同小波基函数在不同分解层的SNR Table 2 SNR of different wavelet groups at different decomposition layers

表2 不同小波基函数在不同分解层的SNR Table 2 SNR of different wavelet groups at different decomposition layers

表3

Table 3

表3(Table 3)

表3 不同小波基函数在不同分解层的RMSE Table 3 RMSE of different wavelet groups at different decomposition layers

表3 不同小波基函数在不同分解层的RMSE Table 3 RMSE of different wavelet groups at different decomposition layers

在上述结果中, 蓝色单元格代表评价指标下的较优选择, 相反, 红色单元格代表评价指标下的较差选择。 对于dbN小波系, 信噪比指标的3个最优值分别为20.044、 20.057和20.078。 当小波基为db6, 小波分解层数为4时, SNR的最大值为20.078; 当小波基选取db8, 分解层数为4时, RMSE的最优值为0.010 3。 Symlet小波系在RMSE和SNR两种评价指标的变化趋势均呈现出一定的规律性, 即随着分解层数的增加, 整体效果先增大后减小, 在分解层数为4时达到最佳。 具体来说, 当小波基为sym5, 分解层数为4时, RMSE指标达到最优值, 该条件下的SNR指标也达到最优值20.097, 优于dbN小波系的结果。 因此, 采用sym5小波基函数并对信号进行4层分解。 Symlet小波作为近似对称的紧支撑小波, 其线性相位特性更适用于光谱信号处理。 对比表3可见sym5在4层分解时, 其频带划分与红小豆光谱噪声频段更匹配, 能更好分离高频噪声与有效信号。 而dbN小波的不对称性可能导致相位失真, 影响光谱特征保留。

分别使用EMD方法、 小波阈值去噪方法以及EMD-DWT方法对红小豆叶片光谱数据进行降噪处理, 各项指标如表4所示。 其中, RMSE为基于原始信号X与去噪信号 X̂的均方根误差, 而SNR的计算公式如式(2)

SNR=10log10∑X2∑(X-X̂)2(2)

表4

Table 4

表4(Table 4)

表4 三种降噪算法对比 Table 4 Comparison of the three denoising methods 降噪方法 RMSE SNR EMD分解 0.002 7 21.233 小波阈值去噪 0.011 5 19.525 E-DWT算法 0.010 2 20.097

表4 三种降噪算法对比 Table 4 Comparison of the three denoising methods

由表4可知, 基于小波阈值的去噪方法能够起到一定的去噪目的, 但整体效果不明显, SNR和RMSE不如E-DWT方法。 对于复杂信号, 单一的小波去噪方法不能充分提取信号的细节特征。 因此, 在小波阈值降噪的基础上引入EMD分解, 提供了一种多尺度分析方法, 可以从多个角度对信号进行分析处理, 进一步提高降噪的准确性和稳定性。 基于单一EMD分解的去噪方法虽然有效提高了信噪比, 但去除的IMF有效分量过多, 导致RMSE较小, 即去噪后的信号与原始信号差异过大, 造成信号失真, 影响后续建模过程。 三种方法对红小豆叶片光谱数据的去噪效果如图2所示。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 不同算法降噪效果对比图Fig.2 Comparison of noise reduction effects

连续投影算法是一种前向特征变量选择方法^[13], 其利用向量的投影分析原理, 以选择含有最少冗余信息及最小共线性的变量组合。 为了确定SPA算法中需要提取的波长数N, 将经SPA算法提取后的特征波长矩阵和分类标签分别建立支持向量机(SVM)模型, 得到建模集交叉验证的准确率。 每个值对应一个不同的候选子集, 最大准确率值对应的N即为SPA算法的最优参数。

设定SPA算法的波长选择数目范围为2~30, 随着特征波长的不断增加, 模型的精度曲线呈现先上升后下降的趋势。 当N=12时, SVM的准确率达到最优值, 即选取12个特征波长。 与原始的750个特征波长相比, 此时的特征数量减少了98.4%, 简化效果明显。 具体而言, 对于采集的光谱数据, 其波长分别为: 326、 341、 360、 549、 688、 757、 951、 993、 1 011、 1 030、 1 049和1 075 nm。 如图3所示, 星号标记点为优选波长, 得到长度为12的一维光谱序列。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 SPA算法对红小豆叶片光谱数据进行特征提取Fig.3 SPA algorithm used to extract the features of adzuki bean leaf spectral data

为了验证特征提取效果, 分别建立红小豆光谱数据的PCA-SVM模型和全波段-SVM模型, 并与SPA-SVM模型进行比较, 具体结果如表5所示。

表5

Table 5

表5(Table 5)

表5 不同特征波长提取方法比较 Table 5 Comparison of several different feature wavelength extraction methods 模型 特征波数 准确率/% SPA-SVM 12 78.42 PCA-SVM 6 73.13 全波段-SVM 750 68.13

表5 不同特征波长提取方法比较 Table 5 Comparison of several different feature wavelength extraction methods

由表5可知, 同样选择SVM作为预测模型, 特征波长提取后的模型精度高于直接使用全波段数据。 采用SPA算法和PCA算法分别提取12个和6个特征波长。 虽然PCA算法的降维比率更大, 但PCA-SVM模型的准确率仅为73.13%, 而SPA-SVM的准确率为78.42%, 且过少的特征波数不利于后续模型的建立。 因此, 选择SPA作为红小豆叶片光谱特征波长的提取方法。 但SPA-SVM算法的准确率较低, 仍不能满足实际应用的要求。 这是因为该算法仅以一维光谱特征序列为研究对象进行建模, 不能充分多时段信息的有效融合。 因此, 有必要对特征进行进一步处理, 选择更合适的方法进行建模。

经SPA算法进行特征波长提取处理后, 形成一维特征序列, 该序列只能表示数据点的独立特征值, 而无法直接展示数据点之间的关系或结构, 因此引入格拉姆角场(Gramian Angular field, GAF)理论将特征序列转换为二维图像特征, 以捕获数据点之间的相似性和关联性, 从而提供更丰富的信息表示。

格拉姆角场是一种用于将时间序列编码为图像的方法^[14], 具体过程如下。 对于一维波长序列特征{ xk0, xk1, …, xk11}, 首先使用最大-最小值归一化的方式将其变换至[-1, 1] 区间

Oki=[xki-max(xk)]+[xki-min(xk)]max(xk)-min(xk),

i=0, 1, 2, …, 11(3)

将缩放后的序列数据{ Ok0, Ok1, …, Ok11}利用三角函数变换转换为极坐标表示

φki=arccos(Oki), i=0, 1, 2, …, 11γki=112(4)

根据式(4), 得到坐标点极坐标下的极径 γki以及极角 φki∈ [0, π]。 那么第k个样本的优选光谱波长序列对可以表示为{(φk0, γk0), (φk1, γk1), …, (φk11, γk11)}, 将各点连接可以得到极坐标映射图, 如图4(a)所示。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 基于格拉姆角场的特征向量变换 (a): 光谱矢量极坐标图; (b): GASF谱图Fig.4 Eigenvector transformations based on the GAF (a): Spectral vector polar map; (b): GASF spectrograms

在保证光谱波长序列特性的基础上, 为了表示各数据点之间的相关性, 使用式(5)将极坐标变换为GASF谱图表示。

Gk=cos(φk0+φk0)…cos(φk0+φk11)cos(φk1+φk0)…cos(φk1+φk11)︙⋱︙cos(φk11+φk0)…cos(φk11+φk11)(5)

GASF谱图G_k中的每个元素取值为[-1, 1], 值越接近于1, 表示该像素点对应波长的折射率越高, 而越接近于-1, 则代表像素点对应波长的折射率越低, 绘制出二维谱图如图4(b)所示。 对于本研究中连续10天采集的光谱数据, 按照上述方法对波长进行优选后转换为GASF谱图, 那么每个样本则可以表示为具有10通道且大小为12× 12 的图像数据。 图5展示了染病植株随时间变化的二维谱图, 从图中可以发现染病植株的二维谱图随时间呈现出一定的特异性变化, 为后续早期红小豆锈病植株识别模型的建立提供了良好的数据支撑。

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 染病植株随时间变化GASF谱图Fig.5 GASF spectra of infected plants changed with time

在传统卷积神经网络的基础上增加了CBAM模块, 具体模型结构如图6所示: 输入特征为预处理后尺寸为12× 12× 10的二维谱图, 首先采用16个3× 3的卷积核进行特征提取, 以降低参数, 增加特征表达层次, 再使用CBAM模块对通道及空间特征进行加权处理得到不同的空间语义算子并使用最大池化层以去除了无关信息的干扰, 从而使得模型更加关注光谱对数能量图的局部特征, 此时输出的特征图大小为6× 6× 16, 类似地, 再分别使用卷积层、 CBAM模块及最大池化层对上述的特征图进行处理, 最后经全连接层FC得到Softmax分类层的2个神经元, 对应本研究中红小豆样本是否感染锈病的预测结果。

图6

Fig.6

	Figure Option ViewDownloadNew Window
	图6 网络结构图Fig.6 Network structure diagram

基于开源深度学习框架PyTorch完成以CBAM-CNN模型为基础的红小豆锈病预测模型的构建。 计算机配置为Windows 11 64 bit操作系统, NVIDIA GeForce RTX 3060 Ti (12288MB); 软件环境为Anaconda3(64-bit), CUDA11.7, Python 3.9, PyTorch-GPU 2.0。 模型采用AdamW 优化器, 初始学习率0.001, 权重衰减0.000 1, 学习率衰减策略为每10轮乘以0.9。

共采集960例红小豆叶片光谱数据, 将染病植株视为正样本, 未染病植株视为负样本, 1和0分别作为正负样本的分类编码标签。 按照3:1的比例对数据集进行划分, 最终得到720组光谱数据作为训练集, 其中正样本270例, 负样本450例; 240组光谱数据作为测试集, 其中正样本90例, 负样本150例。

为检验CBAM模块的效果, 特进行消融实验, CBAM-CNN与CNN网络模型batch_size均取值为32, 训练次数为200, 采用ReLu激活函数并对数据进行批归一化处理。 最终训练集在CBAM-CNN模型以及传统CNN模型中的准确率分别为99.31%和96.53%, 损失值分别为0.009和0.056。 训练集在网络模型上训练200次的正确率及损失函数值的变化曲线图如图7所示。

图7

Fig.7

	Figure Option ViewDownloadNew Window
	图7 训练集准确率和损失值变化曲线 (a): 训练集损失值; (b): 训练集准确率Fig.7 The accuracy and loss value change curves of the training set (a): Training set loss value; (b): Training set accuracy

图7(a)中CBAM-CNN模型的准确率曲线变化范围为0.629 2~0.993 1, 变化幅度为0.363 9, 在迭代次数为18时开始收敛, CNN模型的准确率曲线变化范围为0.629 2~0.965 3, 变化幅度为0.336 1, 在迭代次数为80时开始收敛, 从2种模型在训练集上准确率的变化范围和收敛时的迭代次数来看, CBAM-CNN在训练集上的准确率收敛效果及收敛速度均明显优于CNN模型; 图7(b)中CBAM-CNN的损失值曲线变化范围为0.669 3~0.000 9, 变化幅度为0.668 4, 且迭代次数达130轮左右损失值便已稳定, CNN的损失值曲线变化范围为0.685 1~0.055 4, 变化幅度为0.629 7, 损失值在迭代次数为195轮左右时才趋于稳定。 综上所述, 相比于CNN模型, CBAM-CNN在训练集上的精确率、 损失值的收敛效果较好, 模型稳定性较高, 收敛速度更快。

通过图7中两种训练方式下训练集的效果进行对比分析, 加入注意力机制的CBAM-CNN可以更加高效地学习红小豆叶片病害区域特征, 更容易挖掘出引起光谱突变的特征波长和时间节点, 具有更好的特征学习能力和泛化能力。

为进一步评估上述模型的性能及分类能力, 将CBAM-CNN模型和CNN模型分别应用到测试集中, 两种模型的准确率分别为98.33%和95%。

从模型在测试集上的识别准确率分析, CBAM-CNN模型的对染病植株及未染病植株的识别准确率均高于CNN模型, 这是因为CBAM-CNN模型对输入特征的重要性加以区分, 使得网络减少了对区分病害种类无关区域的学习, 将更多的注意力作用于病害特征上, 可以更细致地提取病害特征, 提升卷积部分提取病害特征的能力。

表6

Table 6

表6(Table 6)

表6 两种模型在测试集的表现 Table 6 Performances of two models on test sets 类别 准确率/% CBAM-CNN CNN 染病样本 98.89 91.11 未染病样本 98.00 97.33 总体样本 98.33 95.00

表6 两种模型在测试集的表现 Table 6 Performances of two models on test sets

进一步使用混淆矩阵对2种网络模型在测试集上的表现进行对比, 统计结果如图8所示。

图8

Fig.8

	Figure Option ViewDownloadNew Window
	图8 CBAM-CNN (a)和CNN (b)模型的混淆矩阵Fig.8 Confusion matrices for CBAM-CNN model (a) and CNN model (b)

图8混淆矩阵的结果表明, CBAM-CNN对染病样本和未染病样本的识别错误率分别为1.11%和2.00%, 相对于CNN模型的识别错误率分别降低了7.78%和0.67%, 说明CBAM-CNN模型在对两类样本的识别效果均优于CNN算法。

对于类别不均衡数据集, 准确率难以直接反映模型的预测性能。 本例中, 对于染病植株准确预测的重要程度要远高于未染病植株的准确预测, 因此增加精确率(Precision)、 召回率(Recall)和F1值作为评价指标。 分别计算CBAM- CNN和CNN模型的性能评价指标, 如表7所示。

表7

Table 7

表7(Table 7)

表7 模型性能评价 Table 7 Model performance evaluation 算法模型 精确率 召回率 F1 CBAM-CNN 96.73% 98.89% 0.978 0 CNN 95.35% 91.11% 0.931 8

表7 模型性能评价 Table 7 Model performance evaluation

表7中列出了2种不同模型的对比结果。 相较于CNN模型, CBAM-CNN模型在精确率上提高了1.38%, 召回率提高了7.78%, F1的值也提高了0.046, 可见CBAM-CNN的3种性能评价指标均高于CNN网络, 尤其是召回率提升较多, 说明CBAM-CNN模型在注意力机制的作用下对染病样本的识别能力更强。